Pular para o conteúdo

Tarefa causcibench_real.q007

causcibench_realagentT2publicépoca 1, tentativa 1Execução: 20261015T171142Z-suite-causcibench_real-naive-d6494d

Veredito

falhouDecidida pela verificação 1: figura da resposta próxima, fora da tolerância.
-0.1009665622 vs -0.087

Família do método (das chamadas de ferramentas): ols (regression)

Pergunta feita ao analista

Does being an immigrant make it less likely to get an interview request?

Resposta

Estimativa ingênua (infer.ols): coef.immigrant = -0,1010.

Valores esperados e de onde vêm

causcibench_real.gold.q007

Fonte
CauSciBench real split, data/metadata_json/real_input.json at d9bb43a, id 7
Tipo
benchmark_gold
Localização
real_input.json, record id 7: fields effect and std_error
Trecho
id 7 effect -0.087 std_error 0.03
Valor como publicado
-0.087
Erro-padrão como publicado
0.03
Valor
-0,087-0.087 (se 0,030.03)
Conferido por
arquivo do benchmark · Written by scripts/freeze_causcibench_real.py from the pinned file; equal to the `answer` and `std_error` of the same id in data/metadata_csv/real_input.csv at the pin.
sha256 da cópia lida
c1f4c8930675afff63d816d8ed066941ae92697e7bfc31e9d38519398dd80438 (identifica a cópia lida, não um arquivo canônico)
Endereço
https://raw.githubusercontent.com/causalNLP/CauSciBench/d9bb43a2d90f261978cc5ac0b628c0484f6e8956/data/metadata_json/real_input.json
Licença
CauSciBench repository (MIT for code; metadata as published in the repository)
  • #1 figura da resposta próxima: -0,087-0.087 · relativa 0.05

Verificações

Cada verificação, o que esperava, o que observou e a chamada que leu
#VerificaçãoObrigatóriaResultadoEsperadoObservadoTolerânciaFonteChamada
0resposta com lastro
every number backed
obrigatóriapassou—[]———
1figura da resposta próxima
-0.1009665622 vs -0.087
obrigatóriafalhou-0,087-0.087-0,100967-0.10096656217345873relativa 0.05causcibench_real.gold.q007call_10d966a0

Caminho de referência e caminho do agente

A chamada de referência ao lado da chamada que deu a resposta, argumento por argumento.

caminho de referência do item · metadata_rule

Referência: infer.olsChamada do agente: infer.ols (call_10d966a0)igual
Argumentos da referência e do agente
ArgumentoReferênciaAgente
cluster——não fixado pela referência
controls["citizen","woman","religious","experience","skilledjob","time"][]diferente
dataset"vernby_can_immigrants""vernby_can_immigrants"igual
fe—[]não fixado pela referência
intercept—truenão fixado pela referência
level—0,950.95não fixado pela referência
se—"HC1"não fixado pela referência
subset——não fixado pela referência
weights——não fixado pela referência
x["immigrant"]["immigrant"]igual
y"invited""invited"igual

Trajetória

Cada evento na ordem em que aconteceu: turnos do modelo, chamadas de ferramentas, guardas, transformações e pontuação.

  1. 0Início

    Does being an immigrant make it less likely to get an interview request?

    vernby_can_immigrants (agent)

    The data comes from a randomized field experiment designed to assess whether a candidate's background influences their likelihood of receiving a job interview or offer. Researchers submitted fictitious job applications to restaurants and cafes across Sweden at random. The applications varied in terms of country of birth, gender, citizenship status, work experience, and religious activity. A positive response was defined as a job offer, interview invitation, or follow-up inquiry, while a negative response included any other reply or no response at all. Variables: name: Name of the candidate stad: City citizen: 1 if the candidate is a Swedish citizen, 0 otherwise religious: 1 if the candidate is religious, 0 otherwise experience: 1 if the candidate has work experience, 0 otherwise poland: 1 if the candidate was born in Poland, 0 otherwise iraq: 1 if the candidate was born in Iraq, 0 otherwise somalia: 1 if the candidate was born in Somalia, 0 otherwise skilledjob: 1 if the job is high-skilled, 0 otherwise woman: 1 if the candidate is a woman, 0 otherwise invited: 1 if the candidate received an interview or a job or a follow-up response, 0 otherwise city1, city2, city3, city4, city5, city6, city7: Dummy variables for the seven cities immigrant: 1 if the candidate is an immigrant (not born in Sweden), 0 otherwise time: Proportion of the applicant's life spent living in Sweden (scaled between 0 and 1)

    file 6b86133cb042567bcf438fed9ac968ded163b85e3608000503564ddb195541c6 · frame —
  2. 1Turno do modelo
    call_a56f9431naive-olsFim: tool_use0 ms0 de entrada · 0 de saída · 0 de raciocínio · 0 em cache
    Texto visível

    Linha de base ingênua: regressão do resultado no tratamento, sem controles.

    Chamadas pedidas
    • infer.ols
      {
        "dataset": "vernby_can_immigrants",
        "x": [
          "immigrant"
        ],
        "y": "invited"
      }
  3. 2Ferramenta
    infer.olsv0.1.0call_10d966a0decidido pelo modeloreexecutável

    Motivo: Linha de base ingênua: regressão do resultado no tratamento, sem controles.

    Argumentos
    {
      "cluster": null,
      "controls": [],
      "dataset": "vernby_can_immigrants",
      "fe": [],
      "intercept": true,
      "level": 0.95,
      "se": "HC1",
      "subset": null,
      "weights": null,
      "x": [
        "immigrant"
      ],
      "y": "invited"
    }
    Figuras call_10d966a0
    ChaveValorValor brutoErro-padrãoIC
    coef.immigrant
    Coefficient on immigrant in the regression of invited
    -0,100967 -0.100966562173458730,02897930.028979340518139593-0,157811 – -0,0441219
    Diagnósticos
    • n_obs = 1.4921492
    • k = 22
    • r2 = 0,01178470.011784655197395466
    • df_resid = 1.4901490
    • se_type = "HC1"
    • n_clusters = —
    Tabelas (1)
    {
      "coefficients": [
        {
          "ci_high": 0.26257287119859596,
          "ci_low": 0.15409379546807075,
          "coef": 0.20833333333333334,
          "p": 8.47346329979834e-14,
          "se": 0.027651262349089233,
          "t": 7.534315457398832,
          "term": "Intercept"
        },
        {
          "ci_high": -0.044121922767846086,
          "ci_low": -0.15781120157907136,
          "coef": -0.10096656217345873,
          "p": 0.0005081184462068409,
          "se": 0.028979340518139593,
          "t": -3.4840876420310116,
          "term": "immigrant"
        }
      ]
    }
    Digests dos dados
    vernby_can_immigrants 321ceca56d7e15f0f480ef67fa412659353c33e94500351553713de75069879c
    sha256 do resultado
    4e21a8f1067b9481f6f86ef51b0b740195e9cfe70b76773727524fe3162e3873
  4. 3Turno do modelo
    call_cf87b4f9naive-olsFim: tool_use0 ms0 de entrada · 0 de saída · 0 de raciocínio · 0 em cache
    Chamadas pedidas
    • submit_answer (meta-ferramenta)
      {
        "answer": "Estimativa ingênua (infer.ols): coef.immigrant = -0,1010.",
        "caveats": [],
        "figure_refs": [
          "call_10d966a0:coef.immigrant"
        ]
      }
  5. 4Guarda
    resposta aceita
    Números encontrados
    -0,1010
    Sem lastro
    —
    Não citados
    —
    1 nova(s) tentativa(s) restante(s)
  6. 5Resposta

    Estimativa ingênua (infer.ols): coef.immigrant = -0,1010.

    Figuras citadas: call_10d966a0:coef.immigrant · Parada: answered
    Figura da resposta: call_10d966a0:coef.immigrant = -0,100967-0.10096656217345873 (se 0,02897930.028979340518139593)
  7. 6Pontuação
    #0resposta com lastropassouobrigatóriaevery number backed
  8. 7Pontuação
    #1figura da resposta próximafalhouobrigatória-0.1009665622 vs -0.087

Épocas × verificações

Resultado de cada verificação em cada época pontuada
#01
Época 1passoufalhou

Tentativas

Cada tentativa é seu próprio arquivo e é publicada; só a última de cada época é pontuada.

Downloads desta tarefa

Pacote da tarefa (.zip)
104,9 KB · sha256 b7c99d7401c62cb2c171bb55dda9837c7a26ac6bf32f6879b9f851454a9a4f53

O hash de um zip é só de transporte: o que ancora a integridade é o RUN_SHA256SUMS que vai dentro dele, cópia exata do SHA256SUMS da execução.

Downloads desta tarefa
ArquivoTamanhosha256
attachments/35372ff5d27c54bc42b22abf899f0d6779abf0b5ce1ac712854a15e69629f425.json999 B35372ff5d27c54bc42b22abf899f0d6779abf0b5ce1ac712854a15e69629f425
attachments/41e0d7f66fa4a0ceab9bf4bff460f39365befeeb450224bb75931d507adeb02f.json2,2 KB41e0d7f66fa4a0ceab9bf4bff460f39365befeeb450224bb75931d507adeb02f
attachments/433a6877aa6a378bbd4b7e2752e484d8cb7499c562d68222be231f62ff2fa420.json2,4 KB433a6877aa6a378bbd4b7e2752e484d8cb7499c562d68222be231f62ff2fa420
attachments/52ab03d8ec104abb85572294bf8a469d75c5de9e74d6042caabff8017adc572b.json64,0 KB52ab03d8ec104abb85572294bf8a469d75c5de9e74d6042caabff8017adc572b
attachments/8d896495818fe9c8d08690b9942115552e9ffe39a661f1f7e298b406fe7b1028.json893 B8d896495818fe9c8d08690b9942115552e9ffe39a661f1f7e298b406fe7b1028
attachments/c728527a8e3925872de7a19bd573270d1ac16f0226fdda885d7c581b282a714a.json243 Bc728527a8e3925872de7a19bd573270d1ac16f0226fdda885d7c581b282a714a
attachments/f097111c6e668a5a2bf3a86b0c282b6629f90c138548c0959a7dea253a3d1c10.json97 Bf097111c6e668a5a2bf3a86b0c282b6629f90c138548c0959a7dea253a3d1c10
native/causcibench_real/causcibench_real.q007.e1.a1.json1,7 KB1c0aa1dd0a4c41d946b97727505bb1812b775097c2b68821488a6f1a49f39613
sources/causcibench_real.gold.q007.json1,2 KB51f43af8ca597848c89148ee8e4a859be24e7775c9ff7ac488b4600d1ce6dcc0
specs/causcibench_real.q007.json5,6 KB2688172a58236accbcbad5ce293813170f94f899d21ff88b5302b98c393b2556
traces/causcibench_real.q007.e1.a1.jsonl13,0 KB2a5dd97a05c18271c35623466308c613076e318d0674251739c2747cc5dfb490
trajectories/causcibench_real.q007.e1.a1.jsonl9,9 KB2274e36b3161cfd68cf59d14ce17874b177b0342522d1d3c745b2434bda8d590