Tarefa qrdata_socsci.410
qrdata_socsciagentT2publicépoca 1, tentativa 1Execução: 20261015T170010Z-suite-qrdata_socsci-scripted-7912b3Veredito
Motivo: no reference path (coverage gap)
Pergunta feita ao analista
What proportion of voters whose races are non-Hispanic Asians and Pacific Islanders are correctly classified in their racial category? Race is considered correctly classified if the racial category with the greatest conditional probability P(race | surname, residence) is identical to the self-reported race. Please remove those voters who contain at least a missing value. Please round to the nearest hundredth.
Valores esperados e de onde vêm
qrdata.gold.410
- Fonte
- QRData benchmark/QRData.json at de450af45ff7101b328bb064c6b475f73414a7ed (Xiao Liu, Zirui Wu, Xueqing Wu, Pan Lu, Kai-Wei Chang, Yansong Feng. Are LLMs Capable of Data-based Statistical and Causal Reasoning? Benchmarking Advanced Quantitative Reasoning with Data. Findings of the Association for Computational Linguistics: ACL 2024, pages 9215-9235.)
- Tipo
- benchmark_gold
- Localização
- QRData.json item 410 (0-based), field 'answer'
- Trecho
item 410 answer 0.61
- Valor
- 0,61
0.61 - Conferido por
- arquivo do benchmark · The printed gold is in the excerpt and index.json. It has fewer than 3 significant digits, so it is not set as value_as_published: the isolation gate searches that field verbatim, and a string this short can occur anywhere in a prompt (the gate does not search such numbers either).
- sha256 da cópia lida
e076d960f19434adf728aab70480ce34808c06066fcea48eaa38b145d1a111a1(identifica a cópia lida, não um arquivo canônico)- Endereço
https://raw.githubusercontent.com/xxxiaol/QRData/de450af45ff7101b328bb064c6b475f73414a7ed/benchmark/QRData.json- Licença
- CC BY-NC 4.0
qrdata.eval_py
- Fonte
- QRData benchmark/eval.py at de450af45ff7101b328bb064c6b475f73414a7ed (Xiao Liu, Zirui Wu, Xueqing Wu, Pan Lu, Kai-Wei Chang, Yansong Feng. Are LLMs Capable of Data-based Statistical and Causal Reasoning? Benchmarking Advanced Quantitative Reasoning with Data. Findings of the Association for Computational Linguistics: ACL 2024, pages 9215-9235.)
- Tipo
- software
- Localização
- benchmark/eval.py: extract_first_number, calc_acc
- Valor
- —
- Conferido por
- arquivo do benchmark · Vendored byte for byte as suites/data/qrdata_socsci/vendor/benchmark_eval.py.txt; a parity test runs its functions against MAGI's port and the answer_figure_close check.
- Implementação
- independente da ferramenta
- sha256 da cópia lida
d6e5c1f7535ac9413951996c15544beb6f184244acb2da56e1fcd0942837e33d(identifica a cópia lida, não um arquivo canônico)- Endereço
https://raw.githubusercontent.com/xxxiaol/QRData/de450af45ff7101b328bb064c6b475f73414a7ed/benchmark/eval.py- Licença
- CC BY-NC 4.0
Verificações
| # | Verificação | Obrigatória | Resultado | Esperado | Observado | Tolerância | Fonte | Chamada |
|---|
Caminho de referência e caminho do agente
A chamada de referência ao lado da chamada que deu a resposta, argumento por argumento.
Nenhum caminho de referência registrado para esta tarefa.
Trajetória
Cada evento na ordem em que aconteceu: turnos do modelo, chamadas de ferramentas, guardas, transformações e pontuação.
Esta tentativa não tem trajetória publicada.
Épocas × verificações
Tentativas
Cada tentativa é seu próprio arquivo e é publicada; só a última de cada época é pontuada.
- época 1, tentativa 1puladapontuada(exibindo)
no reference path (coverage gap)
Downloads desta tarefa
f7f8044a910f3e9d6f0c750602cf00758200b432e1e266905b4424cdc6e7be0bO hash de um zip é só de transporte: o que ancora a integridade é o RUN_SHA256SUMS que vai dentro dele, cópia exata do SHA256SUMS da execução.
| Arquivo | Tamanho | sha256 |
|---|---|---|
| native/qrdata_socsci/qrdata_socsci.410.e1.a1.json | 199 B | e7212e10a0b451a3a5808db033c99b3900bdf763513c0040fab9cc76504c52f5 |
| sources/qrdata.eval_py.json | 1,3 KB | d610b61f390d29ce767e08ce850eab5cb0dc4d13c1edb62d8cf3b0e49a3a291a |
| sources/qrdata.gold.410.json | 1,4 KB | 6744090db47f8ac8d6f31a083c507b4f4a1b24f2eef2d159061f3122660f4e3d |
| specs/qrdata_socsci.410.json | 7,0 KB | 0a11ad32310d4e66c975c2d22d0cd4432a0a3c6d01336ea4ddd2e786e7ab388b |