Pular para o conteúdo

Tarefa causcibench_real.q013

causcibench_realagentT2publicépoca 1, tentativa 1Execução: 20261015T171142Z-suite-causcibench_real-naive-d6494d

Veredito

passouPassou em todas as verificações obrigatórias.

Família do método (das chamadas de ferramentas): ols (regression)

Pergunta feita ao analista

How much differently do Black legislators respond to out of districts email?

Resposta

Estimativa ingênua (infer.ols): coef.treat_out = -0,2661.

Valores esperados e de onde vêm

causcibench_real.gold.q013

Fonte
CauSciBench real split, data/metadata_json/real_input.json at d9bb43a, id 13
Tipo
benchmark_gold
Localização
real_input.json, record id 13: fields effect and std_error
Trecho
id 13 effect -0.276 std_error 0.013
Valor como publicado
-0.276
Erro-padrão como publicado
0.013
Valor
-0,276-0.276 (se 0,0130.013)
Conferido por
arquivo do benchmark · Written by scripts/freeze_causcibench_real.py from the pinned file; equal to the `answer` and `std_error` of the same id in data/metadata_csv/real_input.csv at the pin.
sha256 da cópia lida
c1f4c8930675afff63d816d8ed066941ae92697e7bfc31e9d38519398dd80438 (identifica a cópia lida, não um arquivo canônico)
Endereço
https://raw.githubusercontent.com/causalNLP/CauSciBench/d9bb43a2d90f261978cc5ac0b628c0484f6e8956/data/metadata_json/real_input.json
Licença
CauSciBench repository (MIT for code; metadata as published in the repository)
  • #1 figura da resposta próxima: -0,276-0.276 · relativa 0.05

Verificações

Cada verificação, o que esperava, o que observou e a chamada que leu
#VerificaçãoObrigatóriaResultadoEsperadoObservadoTolerânciaFonteChamada
0resposta com lastro
every number backed
obrigatóriapassou—[]———
1figura da resposta próxima
-0.2661288734 vs -0.276
obrigatóriapassou-0,276-0.276-0,266129-0.26612887344493796relativa 0.05causcibench_real.gold.q013call_d870cce2

Caminho de referência e caminho do agente

A chamada de referência ao lado da chamada que deu a resposta, argumento por argumento.

caminho de referência do item · metadata_rule

Referência: infer.olsChamada do agente: infer.ols (call_d870cce2)igual
Argumentos da referência e do agente
ArgumentoReferênciaAgente
cluster——não fixado pela referência
controls["leg_black","leg_democrat","south","leg_senator","blackpercent","black_medianhh","white_medianhh","statessquireindex","urbanpercent","nonblacknonwhite","totalpop"][]diferente
dataset"broockman_black_politicians""broockman_black_politicians"igual
fe—[]não fixado pela referência
intercept—truenão fixado pela referência
level—0,950.95não fixado pela referência
se—"HC1"não fixado pela referência
subset——não fixado pela referência
weights——não fixado pela referência
x["treat_out"]["treat_out"]igual
y"responded""responded"igual

Pendências do caminho de referência: needs_spec:interaction

Trajetória

Cada evento na ordem em que aconteceu: turnos do modelo, chamadas de ferramentas, guardas, transformações e pontuação.

  1. 0Início

    How much differently do Black legislators respond to out of districts email?

    broockman_black_politicians (agent)

    This data is from a randomized field experiment in which fictional emails, appearing to come from Black constituents, were sent to legislators across the United States. The purpose was to test whether being outside a legislator's district reduced the likelihood of receiving a response, and whether Black legislators were more likely to respond regardless of electoral incentives. The main focus is on differences in responsiveness based on the race of the legislator and the sender's eligibility to vote. Variables include: leg_black: 1 if the legislator is Black, 0 otherwise treat_out: 1 if the email was from an out-of-district sender, 0 otherwise responded: 1 if the legislator responded to the email, 0 otherwise totalpop: Population of the legislator's district medianhhincom: Median household income in the district black_medianhh: Median household income among Black residents in the district white_medianhh: Median household income among White residents in the district blackpercent: Percentage of the district's population that is Black statessquireindex: State legislative professionalism index (Squire index) nonblacknonwhite: 1 if the legislator is neither Black nor White, 0 otherwise urbanpercent: Percentage of the district that is urban leg_senator: 1 if the legislator is a senator, 0 otherwise leg_democrat: 1 if the legislator is a Democrat, 0 otherwise south: 1 if the legislator represents a Southern state, 0 otherwise

    file 414450c964cacbde724fd24906b61bb65232c0ae9c73a1bc021dbce1ea058022 · frame —
  2. 1Turno do modelo
    call_362ffb0fnaive-olsFim: tool_use0 ms0 de entrada · 0 de saída · 0 de raciocínio · 0 em cache
    Texto visível

    Linha de base ingênua: regressão do resultado no tratamento, sem controles.

    Chamadas pedidas
    • infer.ols
      {
        "dataset": "broockman_black_politicians",
        "x": [
          "treat_out"
        ],
        "y": "responded"
      }
  3. 2Ferramenta
    infer.olsv0.1.0call_d870cce2decidido pelo modeloreexecutável

    Motivo: Linha de base ingênua: regressão do resultado no tratamento, sem controles.

    Argumentos
    {
      "cluster": null,
      "controls": [],
      "dataset": "broockman_black_politicians",
      "fe": [],
      "intercept": true,
      "level": 0.95,
      "se": "HC1",
      "subset": null,
      "weights": null,
      "x": [
        "treat_out"
      ],
      "y": "responded"
    }
    Figuras call_d870cce2
    ChaveValorValor brutoErro-padrãoIC
    coef.treat_out
    Coefficient on treat_out in the regression of responded
    -0,266129 -0.266128873444937960,01271830.01271825129835481-0,291062 – -0,241196
    Diagnósticos
    • n_obs = 5.5935593
    • k = 22
    • r2 = 0,07254910.07254908841285335
    • df_resid = 5.5915591
    • se_type = "HC1"
    • n_clusters = —
    Tabelas (1)
    {
      "coefficients": [
        {
          "ci_high": 0.5734503453954859,
          "ci_low": 0.5367131229769376,
          "coef": 0.5550817341862118,
          "p": 0,
          "se": 0.009369883757884457,
          "t": 59.24104807801145,
          "term": "Intercept"
        },
        {
          "ci_high": -0.24119616142866085,
          "ci_low": -0.2910615854612151,
          "coef": -0.26612887344493796,
          "p": 1.1409200420360697e-93,
          "se": 0.01271825129835481,
          "t": -20.924957936580753,
          "term": "treat_out"
        }
      ]
    }
    Digests dos dados
    broockman_black_politicians b96d5891f0e7beff3062ed222dc9d9eae8bf1955fa80fb0fd7318a05f0b198b0
    sha256 do resultado
    0a0850f60d12d244f52a802f6a798b4108ea3368005b49629ededbeb7a0c6b42
  4. 3Turno do modelo
    call_ea257bcanaive-olsFim: tool_use0 ms0 de entrada · 0 de saída · 0 de raciocínio · 0 em cache
    Chamadas pedidas
    • submit_answer (meta-ferramenta)
      {
        "answer": "Estimativa ingênua (infer.ols): coef.treat_out = -0,2661.",
        "caveats": [],
        "figure_refs": [
          "call_d870cce2:coef.treat_out"
        ]
      }
  5. 4Guarda
    resposta aceita
    Números encontrados
    -0,2661
    Sem lastro
    —
    Não citados
    —
    1 nova(s) tentativa(s) restante(s)
  6. 5Resposta

    Estimativa ingênua (infer.ols): coef.treat_out = -0,2661.

    Figuras citadas: call_d870cce2:coef.treat_out · Parada: answered
    Figura da resposta: call_d870cce2:coef.treat_out = -0,266129-0.26612887344493796 (se 0,01271830.01271825129835481)
  7. 6Pontuação
    #0resposta com lastropassouobrigatóriaevery number backed
  8. 7Pontuação
    #1figura da resposta próximapassouobrigatória-0.2661288734 vs -0.276

Épocas × verificações

Resultado de cada verificação em cada época pontuada
#01
Época 1passoupassou

Tentativas

Cada tentativa é seu próprio arquivo e é publicada; só a última de cada época é pontuada.

Downloads desta tarefa

Pacote da tarefa (.zip)
105,0 KB · sha256 3a2089ef1cb1e05328944f74b6db9a8ba030e44f6c2f15774664cce534c4a042

O hash de um zip é só de transporte: o que ancora a integridade é o RUN_SHA256SUMS que vai dentro dele, cópia exata do SHA256SUMS da execução.

Downloads desta tarefa
ArquivoTamanhosha256
attachments/3f5f30407a8702abf28a1fc6b564d1921e6d1950cf8558c4c231dfea0e626c09.json2,1 KB3f5f30407a8702abf28a1fc6b564d1921e6d1950cf8558c4c231dfea0e626c09
attachments/433a6877aa6a378bbd4b7e2752e484d8cb7499c562d68222be231f62ff2fa420.json2,4 KB433a6877aa6a378bbd4b7e2752e484d8cb7499c562d68222be231f62ff2fa420
attachments/52ab03d8ec104abb85572294bf8a469d75c5de9e74d6042caabff8017adc572b.json64,0 KB52ab03d8ec104abb85572294bf8a469d75c5de9e74d6042caabff8017adc572b
attachments/649ea98593339fb7f13871fd028bed1cea032e038961644f7dfe851659f45d09.json101 B649ea98593339fb7f13871fd028bed1cea032e038961644f7dfe851659f45d09
attachments/7b8b025af31a952ce16c307f9469d62dd681f17075b9f243a5868b9e1ffef817.json251 B7b8b025af31a952ce16c307f9469d62dd681f17075b9f243a5868b9e1ffef817
attachments/a7126ca32f1ae3cb7343f412266097cadc6b3e5854b5dba2a9077bb376e1b17a.json882 Ba7126ca32f1ae3cb7343f412266097cadc6b3e5854b5dba2a9077bb376e1b17a
attachments/c798a5e1bd31544338cd65489a8488683cf401ddc2834134e9a042eef76c243b.json988 Bc798a5e1bd31544338cd65489a8488683cf401ddc2834134e9a042eef76c243b
native/causcibench_real/causcibench_real.q013.e1.a1.json1,7 KB6f0bbfa77c66cac85445f9fc05ee7f10175f3bb0aa22f483ec74c05ebcae2f6a
sources/causcibench_real.gold.q013.json1,2 KB58115e37c5e1076dacc4c42b0a96b7d1201b824ac9557503216ed0b86d190f03
specs/causcibench_real.q013.json6,9 KB4d24cc07fddbd3b20a0f4d0d200da0723f3907e0545b7e1b539019351abb5a7b
traces/causcibench_real.q013.e1.a1.jsonl12,9 KB5296ffff541f95d773a857aad857b5478ba7e875f08d08a094dd32fb8ac5f3ee
trajectories/causcibench_real.q013.e1.a1.jsonl9,9 KBd81cf7e32e147864ad794632f57c35739299d28ab9bf2684bbb6b285900a4113