Pular para o conteúdo

Tarefa causcibench_real.q019

causcibench_realagentT2publicépoca 1, tentativa 1Execução: 20261015T171142Z-suite-causcibench_real-naive-d6494d

Veredito

falhouDecidida pela verificação 1: figura da resposta próxima, fora da tolerância.
0.1182804531 vs 0.093

Família do método (das chamadas de ferramentas): ols (regression)

Pergunta feita ao analista

Did receiving financial assistance from Uruguay's poverty alleviation program cause recipients to view the government more favorably?

Resposta

Estimativa ingênua (infer.ols): coef.participation = 0,1183.

Valores esperados e de onde vêm

causcibench_real.gold.q019

Fonte
CauSciBench real split, data/metadata_json/real_input.json at d9bb43a, id 19
Tipo
benchmark_gold
Localização
real_input.json, record id 19: fields effect and std_error
Trecho
id 19 effect 0.093 std_error 0.046
Valor como publicado
0.093
Erro-padrão como publicado
0.046
Valor
0,0930.093 (se 0,0460.046)
Conferido por
arquivo do benchmark · Written by scripts/freeze_causcibench_real.py from the pinned file; equal to the `answer` and `std_error` of the same id in data/metadata_csv/real_input.csv at the pin.
sha256 da cópia lida
c1f4c8930675afff63d816d8ed066941ae92697e7bfc31e9d38519398dd80438 (identifica a cópia lida, não um arquivo canônico)
Endereço
https://raw.githubusercontent.com/causalNLP/CauSciBench/d9bb43a2d90f261978cc5ac0b628c0484f6e8956/data/metadata_json/real_input.json
Licença
CauSciBench repository (MIT for code; metadata as published in the repository)
  • #1 figura da resposta próxima: 0,0930.093 · relativa 0.05

Verificações

Cada verificação, o que esperava, o que observou e a chamada que leu
#VerificaçãoObrigatóriaResultadoEsperadoObservadoTolerânciaFonteChamada
0resposta com lastro
every number backed
obrigatóriapassou—[]———
1figura da resposta próxima
0.1182804531 vs 0.093
obrigatóriafalhou0,0930.0930,118280.11828045310164526relativa 0.05causcibench_real.gold.q019call_6f766c74

Caminho de referência e caminho do agente

A chamada de referência ao lado da chamada que deu a resposta, argumento por argumento.

caminho de referência do item · metadata_rule

Referência: infer.olsChamada do agente: infer.ols (call_6f766c74)igual
Argumentos da referência e do agente
ArgumentoReferênciaAgente
cluster——não fixado pela referência
controls["income_centered"][]diferente
dataset"manacorda_gov_transfers""manacorda_gov_transfers"igual
fe—[]não fixado pela referência
intercept—truenão fixado pela referência
level—0,950.95não fixado pela referência
se—"HC1"não fixado pela referência
subset——não fixado pela referência
weights——não fixado pela referência
x["participation"]["participation"]igual
y"support""support"igual

Pendências do caminho de referência: needs_spec:bandwidth

Trajetória

Cada evento na ordem em que aconteceu: turnos do modelo, chamadas de ferramentas, guardas, transformações e pontuação.

  1. 0Início

    Did receiving financial assistance from Uruguay's poverty alleviation program cause recipients to view the government more favorably?

    manacorda_gov_transfers (agent)

    The data focuses on the Uruguayan Plan de Atencion Nacional a la Emergencia Social (PANES), described as a large, temporary social relief program. PANES ran from April 2005 to December 2007. PANES included several components. The main part was a monthly cash transfer. Eligibility for the PANES program was determined using a predicted income score. This score was based on household socioeconomic characteristics collected during a baseline survey. Households were eligible only if their predicted income score fell below a predetermined threshold. Variables: income_centered: Income measure, centered around program cutoff (negative value = eligible) education: Household average years of education among those 16+ age: Household average age participation: Participation in transfers (1 = participated, 0 = did not participate) support: Measure of support for the government

    file a25fd9493a2f57e990d7769905fe56374bc6ddad9534e88c8d01085812fb0334 · frame —
  2. 1Turno do modelo
    call_ac1704d9naive-olsFim: tool_use0 ms0 de entrada · 0 de saída · 0 de raciocínio · 0 em cache
    Texto visível

    Linha de base ingênua: regressão do resultado no tratamento, sem controles.

    Chamadas pedidas
    • infer.ols
      {
        "dataset": "manacorda_gov_transfers",
        "x": [
          "participation"
        ],
        "y": "support"
      }
  3. 2Ferramenta
    infer.olsv0.1.0call_6f766c74decidido pelo modeloreexecutável

    Motivo: Linha de base ingênua: regressão do resultado no tratamento, sem controles.

    Argumentos
    {
      "cluster": null,
      "controls": [],
      "dataset": "manacorda_gov_transfers",
      "fe": [],
      "intercept": true,
      "level": 0.95,
      "se": "HC1",
      "subset": null,
      "weights": null,
      "x": [
        "participation"
      ],
      "y": "support"
    }
    Figuras call_6f766c74
    ChaveValorValor brutoErro-padrãoIC
    coef.participation
    Coefficient on participation in the regression of support
    0,11828 0.118280453101645260,01479980.0147997750949985220,0892554 – 0,147306
    Diagnósticos
    • n_obs = 1.9481948
    • k = 22
    • r2 = 0,03371590.033715944281967
    • df_resid = 1.9461946
    • se_type = "HC1"
    • n_clusters = —
    Tabelas (1)
    {
      "coefficients": [
        {
          "ci_high": 0.751540033120025,
          "ci_low": 0.7040019888044573,
          "coef": 0.7277710109622412,
          "p": 0,
          "se": 0.012119732172983459,
          "t": 60.04844006244151,
          "term": "Intercept"
        },
        {
          "ci_high": 0.14730553196827195,
          "ci_low": 0.08925537423501856,
          "coef": 0.11828045310164526,
          "p": 2.252468500729433e-15,
          "se": 0.014799775094998522,
          "t": 7.992043956236692,
          "term": "participation"
        }
      ]
    }
    Digests dos dados
    manacorda_gov_transfers 545db619c654ede637c18214cd75e71504b965d091a1f70f0af6dee6e4ec7827
    sha256 do resultado
    7f6c22d644ccf6efadffa6de7f9d68c441531f58a815490cad56521657bade66
  4. 3Turno do modelo
    call_04c91f74naive-olsFim: tool_use0 ms0 de entrada · 0 de saída · 0 de raciocínio · 0 em cache
    Chamadas pedidas
    • submit_answer (meta-ferramenta)
      {
        "answer": "Estimativa ingênua (infer.ols): coef.participation = 0,1183.",
        "caveats": [],
        "figure_refs": [
          "call_6f766c74:coef.participation"
        ]
      }
  5. 4Guarda
    resposta aceita
    Números encontrados
    0,1183
    Sem lastro
    —
    Não citados
    —
    1 nova(s) tentativa(s) restante(s)
  6. 5Resposta

    Estimativa ingênua (infer.ols): coef.participation = 0,1183.

    Figuras citadas: call_6f766c74:coef.participation · Parada: answered
    Figura da resposta: call_6f766c74:coef.participation = 0,118280.11828045310164526 (se 0,01479980.014799775094998522)
  7. 6Pontuação
    #0resposta com lastropassouobrigatóriaevery number backed
  8. 7Pontuação
    #1figura da resposta próximafalhouobrigatória0.1182804531 vs 0.093

Épocas × verificações

Resultado de cada verificação em cada época pontuada
#01
Época 1passoufalhou

Tentativas

Cada tentativa é seu próprio arquivo e é publicada; só a última de cada época é pontuada.

Downloads desta tarefa

Pacote da tarefa (.zip)
104,3 KB · sha256 2bba61dce1e57d493aab68d9102e1fd045bc3abbba66954b74d5bf86583e8eec

O hash de um zip é só de transporte: o que ancora a integridade é o RUN_SHA256SUMS que vai dentro dele, cópia exata do SHA256SUMS da execução.

Downloads desta tarefa
ArquivoTamanhosha256
attachments/433a6877aa6a378bbd4b7e2752e484d8cb7499c562d68222be231f62ff2fa420.json2,4 KB433a6877aa6a378bbd4b7e2752e484d8cb7499c562d68222be231f62ff2fa420
attachments/52ab03d8ec104abb85572294bf8a469d75c5de9e74d6042caabff8017adc572b.json64,0 KB52ab03d8ec104abb85572294bf8a469d75c5de9e74d6042caabff8017adc572b
attachments/792b06b0609d6e8b32cb4ad1c715337d5cb2dc46e4ce7991f33ec99b7f05069d.json884 B792b06b0609d6e8b32cb4ad1c715337d5cb2dc46e4ce7991f33ec99b7f05069d
attachments/a8f841059fabe10b678b3455bc87fcbcb703d97adfe66321f1dff28cd1932d5e.json249 Ba8f841059fabe10b678b3455bc87fcbcb703d97adfe66321f1dff28cd1932d5e
attachments/b63bc98f15745831430fd86180bbc806cb17b37201bc184f04749b93270e95fd.json990 Bb63bc98f15745831430fd86180bbc806cb17b37201bc184f04749b93270e95fd
attachments/f36270888cc600966498a6ebba4537a7b302ebdff351ea7deb9bbcc2823d8183.json158 Bf36270888cc600966498a6ebba4537a7b302ebdff351ea7deb9bbcc2823d8183
attachments/ff47843a700e0e15ddbf4fcf7ad8b67853efe5b4adea0c00853df5e0f8409484.json1,2 KBff47843a700e0e15ddbf4fcf7ad8b67853efe5b4adea0c00853df5e0f8409484
native/causcibench_real/causcibench_real.q019.e1.a1.json1,7 KB41a53b8fb7d18d44a3c7911d995768a8e103cb8d23e6ecaec07170acde4e1356
sources/causcibench_real.gold.q019.json1,2 KB22e6d5861f762dfc10e53e7d8d2978888b741aa4e623f046370d48ce25362060
specs/causcibench_real.q019.json5,0 KB34d5726d427e00487a62b62806654e20a0d215aff1859a98540e5c37c7eeb702
traces/causcibench_real.q019.e1.a1.jsonl12,1 KB17a7ea68b2df7570dfac822cdf00418085870ffd13e985fa809e2a3385f2d44a
trajectories/causcibench_real.q019.e1.a1.jsonl9,4 KB5ce46d98b03c09d9d46a13b81e0e3f620aea2da1247137dc6cae23e628fa1e05