Pular para o conteúdo

Tarefa causcibench_real.q008

causcibench_realagentT2publicépoca 1, tentativa 1Execução: 20261015T171142Z-suite-causcibench_real-naive-d6494d

Veredito

falhouDecidida pela verificação 1: figura da resposta próxima, fora da tolerância.
-0.1014785821 vs -0.144

Família do método (das chamadas de ferramentas): ols (regression)

Pergunta feita ao analista

How does being born in Somalia, compared to other countries, affect a candidate's chances of getting a job interview?

Resposta

Estimativa ingênua (infer.ols): coef.somalia = -0,1015.

Valores esperados e de onde vêm

causcibench_real.gold.q008

Fonte
CauSciBench real split, data/metadata_json/real_input.json at d9bb43a, id 8
Tipo
benchmark_gold
Localização
real_input.json, record id 8: fields effect and std_error
Trecho
id 8 effect -0.144 std_error 0.031
Valor como publicado
-0.144
Erro-padrão como publicado
0.031
Valor
-0,144-0.144 (se 0,0310.031)
Conferido por
arquivo do benchmark · Written by scripts/freeze_causcibench_real.py from the pinned file; equal to the `answer` and `std_error` of the same id in data/metadata_csv/real_input.csv at the pin.
sha256 da cópia lida
c1f4c8930675afff63d816d8ed066941ae92697e7bfc31e9d38519398dd80438 (identifica a cópia lida, não um arquivo canônico)
Endereço
https://raw.githubusercontent.com/causalNLP/CauSciBench/d9bb43a2d90f261978cc5ac0b628c0484f6e8956/data/metadata_json/real_input.json
Licença
CauSciBench repository (MIT for code; metadata as published in the repository)
  • #1 figura da resposta próxima: -0,144-0.144 · relativa 0.05

Verificações

Cada verificação, o que esperava, o que observou e a chamada que leu
#VerificaçãoObrigatóriaResultadoEsperadoObservadoTolerânciaFonteChamada
0resposta com lastro
every number backed
obrigatóriapassou—[]———
1figura da resposta próxima
-0.1014785821 vs -0.144
obrigatóriafalhou-0,144-0.144-0,101479-0.10147858206075307relativa 0.05causcibench_real.gold.q008call_7a9ee8a3

Caminho de referência e caminho do agente

A chamada de referência ao lado da chamada que deu a resposta, argumento por argumento.

caminho de referência do item · metadata_rule

Referência: infer.olsChamada do agente: infer.ols (call_7a9ee8a3)igual
Argumentos da referência e do agente
ArgumentoReferênciaAgente
cluster——não fixado pela referência
controls["poland","iraq","citizen","woman","religious","experience","skilledjob","time"][]diferente
dataset"vernby_can_immigrants""vernby_can_immigrants"igual
fe—[]não fixado pela referência
intercept—truenão fixado pela referência
level—0,950.95não fixado pela referência
se—"HC1"não fixado pela referência
subset——não fixado pela referência
weights——não fixado pela referência
x["somalia"]["somalia"]igual
y"invited""invited"igual

Trajetória

Cada evento na ordem em que aconteceu: turnos do modelo, chamadas de ferramentas, guardas, transformações e pontuação.

  1. 0Início

    How does being born in Somalia, compared to other countries, affect a candidate's chances of getting a job interview?

    vernby_can_immigrants (agent)

    The data comes from a randomized field experiment designed to assess whether a candidate's background influences their likelihood of receiving a job interview or offer. Researchers submitted fictitious job applications to restaurants and cafes across Sweden at random. The applications varied in terms of country of birth, gender, citizenship status, work experience, and religious activity. A positive response was defined as a job offer, interview invitation, or follow-up inquiry, while a negative response included any other reply or no response at all. Variables: name: Name of the candidate stad: City citizen: 1 if the candidate is a Swedish citizen, 0 otherwise religious: 1 if the candidate is religious, 0 otherwise experience: 1 if the candidate has work experience, 0 otherwise poland: 1 if the candidate was born in Poland, 0 otherwise iraq: 1 if the candidate was born in Iraq, 0 otherwise somalia: 1 if the candidate was born in Somalia, 0 otherwise skilledjob: 1 if the job is high-skilled, 0 otherwise woman: 1 if the candidate is a woman, 0 otherwise invited: 1 if the candidate received an interview or a job or a follow-up response, 0 otherwise city1, city2, city3, city4, city5, city6, city7: Dummy variables for the seven cities immigrant: 1 if the candidate is an immigrant (not born in Sweden), 0 otherwise time: Proportion of the applicant's life spent living in Sweden (scaled between 0 and 1)

    file 6b86133cb042567bcf438fed9ac968ded163b85e3608000503564ddb195541c6 · frame —
  2. 1Turno do modelo
    call_d8fc07dcnaive-olsFim: tool_use0 ms0 de entrada · 0 de saída · 0 de raciocínio · 0 em cache
    Texto visível

    Linha de base ingênua: regressão do resultado no tratamento, sem controles.

    Chamadas pedidas
    • infer.ols
      {
        "dataset": "vernby_can_immigrants",
        "x": [
          "somalia"
        ],
        "y": "invited"
      }
  3. 2Ferramenta
    infer.olsv0.1.0call_7a9ee8a3decidido pelo modeloreexecutável

    Motivo: Linha de base ingênua: regressão do resultado no tratamento, sem controles.

    Argumentos
    {
      "cluster": null,
      "controls": [],
      "dataset": "vernby_can_immigrants",
      "fe": [],
      "intercept": true,
      "level": 0.95,
      "se": "HC1",
      "subset": null,
      "weights": null,
      "x": [
        "somalia"
      ],
      "y": "invited"
    }
    Figuras call_7a9ee8a3
    ChaveValorValor brutoErro-padrãoIC
    coef.somalia
    Coefficient on somalia in the regression of invited
    -0,101479 -0.101478582060753070,01519560.015195559017949691-0,131286 – -0,0716716
    Diagnósticos
    • n_obs = 1.4921492
    • k = 22
    • r2 = 0,01958660.01958661768841441
    • df_resid = 1.4901490
    • se_type = "HC1"
    • n_clusters = —
    Tabelas (1)
    {
      "coefficients": [
        {
          "ci_high": 0.1723994697590882,
          "ci_low": 0.12938122377418265,
          "coef": 0.15089034676663543,
          "p": 1.2003588535891733e-40,
          "se": 0.01096532946575944,
          "t": 13.76067606885946,
          "term": "Intercept"
        },
        {
          "ci_high": -0.07167162104998163,
          "ci_low": -0.13128554307152449,
          "coef": -0.10147858206075307,
          "p": 3.4052723332515513e-11,
          "se": 0.015195559017949691,
          "t": -6.6781736651400525,
          "term": "somalia"
        }
      ]
    }
    Digests dos dados
    vernby_can_immigrants 321ceca56d7e15f0f480ef67fa412659353c33e94500351553713de75069879c
    sha256 do resultado
    c9f5fc997f390f79f93f47800a8c6732ece1ac3473fff257a4886ae7972b2430
  4. 3Turno do modelo
    call_45d27f79naive-olsFim: tool_use0 ms0 de entrada · 0 de saída · 0 de raciocínio · 0 em cache
    Chamadas pedidas
    • submit_answer (meta-ferramenta)
      {
        "answer": "Estimativa ingênua (infer.ols): coef.somalia = -0,1015.",
        "caveats": [],
        "figure_refs": [
          "call_7a9ee8a3:coef.somalia"
        ]
      }
  5. 4Guarda
    resposta aceita
    Números encontrados
    -0,1015
    Sem lastro
    —
    Não citados
    —
    1 nova(s) tentativa(s) restante(s)
  6. 5Resposta

    Estimativa ingênua (infer.ols): coef.somalia = -0,1015.

    Figuras citadas: call_7a9ee8a3:coef.somalia · Parada: answered
    Figura da resposta: call_7a9ee8a3:coef.somalia = -0,101479-0.10147858206075307 (se 0,01519560.015195559017949691)
  7. 6Pontuação
    #0resposta com lastropassouobrigatóriaevery number backed
  8. 7Pontuação
    #1figura da resposta próximafalhouobrigatória-0.1014785821 vs -0.144

Épocas × verificações

Resultado de cada verificação em cada época pontuada
#01
Época 1passoufalhou

Tentativas

Cada tentativa é seu próprio arquivo e é publicada; só a última de cada época é pontuada.

Downloads desta tarefa

Pacote da tarefa (.zip)
105,0 KB · sha256 92d845ddfc677a46cf4a5a81b8110a755a88c826b283a1c96f800e4805c79539

O hash de um zip é só de transporte: o que ancora a integridade é o RUN_SHA256SUMS que vai dentro dele, cópia exata do SHA256SUMS da execução.

Downloads desta tarefa
ArquivoTamanhosha256
attachments/41e0d7f66fa4a0ceab9bf4bff460f39365befeeb450224bb75931d507adeb02f.json2,2 KB41e0d7f66fa4a0ceab9bf4bff460f39365befeeb450224bb75931d507adeb02f
attachments/433a6877aa6a378bbd4b7e2752e484d8cb7499c562d68222be231f62ff2fa420.json2,4 KB433a6877aa6a378bbd4b7e2752e484d8cb7499c562d68222be231f62ff2fa420
attachments/52ab03d8ec104abb85572294bf8a469d75c5de9e74d6042caabff8017adc572b.json64,0 KB52ab03d8ec104abb85572294bf8a469d75c5de9e74d6042caabff8017adc572b
attachments/68b93fa411f3e397192180abac9708bce01314acf9382cb837ddd832c42b8058.json241 B68b93fa411f3e397192180abac9708bce01314acf9382cb837ddd832c42b8058
attachments/969502eeecbb6799686aaf92ede3f48661fb8cf7a63551fd534a28692153b63f.json885 B969502eeecbb6799686aaf92ede3f48661fb8cf7a63551fd534a28692153b63f
attachments/980eefa40d9422702aef298a4c047c19bc3c6af80d2b71ab49507023853cac32.json142 B980eefa40d9422702aef298a4c047c19bc3c6af80d2b71ab49507023853cac32
attachments/f52b69f3d74970902eae9053431dc80c809563007ca54090f812ff5cb0a4f05a.json991 Bf52b69f3d74970902eae9053431dc80c809563007ca54090f812ff5cb0a4f05a
native/causcibench_real/causcibench_real.q008.e1.a1.json1,7 KB20391911dd6c581afe4613114ae415b3c9e013da763eca952c3035ffc1f1a751
sources/causcibench_real.gold.q008.json1,2 KBdb3f376a202af45f73d49b42b6a26e40830bc24ed79f060c61f2b09f71507d4a
specs/causcibench_real.q008.json5,7 KBac8a31cb36871da074002d4d381379095f7d5bf117dae82350c7e828e7ed4299
traces/causcibench_real.q008.e1.a1.jsonl13,0 KB9d2e6eb9ef7b4b1eed628c467fc7595380068d74b640d867a4cbf8d2fe682641
trajectories/causcibench_real.q008.e1.a1.jsonl9,9 KB6f7729ba61da47618c151e9af5ad6ac2b4939a8fa0e2b9446560c9e6b21cdbc1