daily mirror — 04/08/2026

CHANGELOG.md

@@ -2,6 +2,17 @@
 
 All notable changes to this dataset. The data itself is dated and append-only; this log records **structural** changes (new files, schema, coverage).
 
+## 2026-08-04, data-minimisation rule for the TSE registry
+
+### Changed
+- **`polls/tse-registry.{csv,json}`: individual taxpayer numbers (CPF) are no longer carried.** Where the TSE Open Data source contains a CPF inside the free-text `methodology` or `sampling_plan`, the number is replaced by the literal marker `[CPF removido]`. This applies to the current file and to every file published from this date onward.
+
+  **Why.** The registry is published openly by the TSE under Lei 9.504/1997 art. 33; collecting it is correct and unchanged. A CPF, however, is not a field the TSE publishes: `statistician` is its own named column, and the number only ever reached the file because a pollster typed it into prose describing the sampling design. Nothing in this dataset is joined on CPF, so carrying it serves no analytical purpose. This is data minimisation, not a correction of a defect.
+
+  **What is unaffected.** The `cnpj` column and every company registration number are unchanged: a CNPJ identifies a legal entity, is published deliberately by the TSE, is filled in every row, and is the only reliable join key (legal names differ from the trade names institutes are known by). The `statistician` column is unchanged: it is professional activity and it is what lets a reader audit who signed off on a poll. Redaction is decided by **digit count**, never by label, because the TSE labels part of the free text `CNPJ/CPF` and fills it with a CNPJ.
+
+  **Scope.** Only the two long free-text columns can contain the marker. No numeric column, no date, no identifier and no row count changed.
+
 ## 2026-07-30, errata mechanism
 
 ### Added

DATA_DICTIONARY.md

@@ -23,8 +23,8 @@ Official **TSE poll-registration registry** for the 2026 presidential cycle, bui
 | `conre` | string | — | Regional Statistics Council registration of the responsible statistician (`CD_CONRE`). |
 | `statistician` | string | — | Responsible statistician, named (`NM_ESTATISTICO_RESP`). |
 | `cost_brl` | number | BRL | Declared cost of the poll (`VR_PESQUISA`). |
-| `methodology` | string (long) | free text | **Full** methodology description (`DS_METODOLOGIA_PESQUISA`) — survey type, mode (in-person/phone), instrument. Up to ~3.8k chars; **not truncated**. |
-| `sampling_plan` | string (long) | free text | **Full** sampling/weighting design (`DS_PLANO_AMOSTRAL`) — universe, multi-stage cluster design, **and the demographic/geographic quota design (sex, age, education, income, region) with the exact quota percentages** when declared. Up to ~4k chars; **not truncated**. This is the registration-level weighting *design*. |
+| `methodology` | string (long) | free text | **Full** methodology description (`DS_METODOLOGIA_PESQUISA`) — survey type, mode (in-person/phone), instrument. Up to ~3.8k chars; **never truncated**. Sole edit: an individual taxpayer number (CPF) typed into the prose is replaced by `[CPF removido]` (see note below). |
+| `sampling_plan` | string (long) | free text | **Full** sampling/weighting design (`DS_PLANO_AMOSTRAL`) — universe, multi-stage cluster design, **and the demographic/geographic quota design (sex, age, education, income, region) with the exact quota percentages** when declared. Up to ~4k chars; **never truncated**. This is the registration-level weighting *design*. Sole edit: an individual taxpayer number (CPF) typed into the prose is replaced by `[CPF removido]` (see note below). |
 | `control_system` | string (long) | free text | Internal field-control/quality-control system (`DS_SISTEMA_CONTROLE`). |
 | `municipality_data` | string | free text | Municipality-level breakdown declaration (`DS_DADO_MUNICIPIO`), when present. |
 | `uf` | string | 2-letter UF or `BR` | Federative unit (`SG_UF`). **Always `BR`** for presidential-office registrations — the TSE files all presidential polls under the national jurisdiction regardless of where the sample was drawn (see `scope`). |
@@ -32,6 +32,8 @@ Official **TSE poll-registration registry** for the 2026 presidential cycle, bui
 | `scope` | string | `national` \| `state` \| `unknown` | **AFOS-derived** sample-coverage label (not a native TSE field). `national` = declared universe spans more than one UF / the country; `state` = restricted to a single UF (a single municipality is within one UF, so municipal polls are `state`); `unknown` = the registration text does not declare a universe (left honest, never guessed). See provenance note below. |
 | `scope_source` | string | `methodology` \| `sampling_plan` \| `dado_municipio` \| `none` | Which registration field the `scope` was inferred from — for auditability/reproducibility. `none` ⇔ `scope = unknown`. |
 
+> 🔒 **`[CPF removido]`, the only edited content in this file.** Where a pollster typed an individual taxpayer number (CPF) into the free-text `methodology` or `sampling_plan`, the number is replaced by that literal marker. Data minimisation: nothing here is joined on CPF, and it is not a field the TSE publishes (`statistician` is its own named column). Company registration numbers (**CNPJ**) are untouched, including inside the same free text, because a CNPJ identifies a legal entity and is the join key that makes a filing auditable. Redaction is decided by digit count, never by label. No numeric column, date, identifier or row count is affected. See CHANGELOG, 2026-08-04.
+>
 > ⚠️ **"Registered" ≠ "published".** A poll in the registry has been filed with the TSE; it may be delayed or never released. Confirm actual release against a primary source before citing numbers.
 >
 > 🔎 **What the TSE publishes vs not.** Public (in this file): methodology, sampling/weighting **design**, cost, contracting party, named statistician, fieldwork dates, sample size. **Not** in the open-data file: the per-candidate **results** and their demographic crosstabs (published by the institute, not the TSE), and the **complete questionnaire** (art. 33 VI) — that is an attachment in the TSE *PesqEle* system, not in the open-data CSV.

ERRATA.md

@@ -8,29 +8,6 @@ Scope note on "append-only": the file for the **current** date may be regenerate
 
 ## EN
 
-### ERR-2026-002 · `polls/tse-registry.csv` + `.json` · personal data
-
-| | Value |
-|---|---|
-| **Affected field** | free text in `methodology` and `sampling_plan` |
-| **Published** | the CPF (Brazilian individual taxpayer number) of the responsible statistician, written into the prose of the filing |
-| **Correct** | `[CPF removido]` |
-| **Rows affected** | 7 occurrences, 4 distinct individuals, out of 533 filings |
-| **Detected** | 2026-08-04 |
-| **Status** | **Removed from the current file and from every file published after 2026-08-04. Revisions published before that date are preserved unchanged, deliberately** — see below. |
-
-**This is a minimisation decision, not a leak.** The registry comes from TSE Open Data (`pesquisa_eleitoral_2026_BRASIL.csv`), published openly under **Lei 9.504/1997 art. 33** and Resolução TSE 23.600/2019. Collecting it was correct and remains correct. The CPF is removed because it is **not necessary for this dataset's purpose**: nothing here is joined on CPF, and the LGPD requires processing only what the purpose needs.
-
-**Why the CPF specifically.** The TSE does not publish CPF as a field. It publishes `statistician` as its own column, by name. The CPF reached the file only because the pollster typed the number into the free-text prose of `methodology` / `sampling_plan`, a field meant to describe sampling design. It is incidental content, not deliberate publication.
-
-**What is kept, and why.** The institute **CNPJ** is kept. It is a company registration, public by law, and a column the TSE deliberately publishes and fills in 533 of 533 rows. It is also the only reliable join key: legal names differ from the names institutes are known by (`REAL TIME MIDIA LTDA` trades as *Real Time Big Data*). Removing it would destroy the auditability this dataset exists to provide. Careful reading required: the TSE labels part of the free text `CNPJ/CPF` and fills it with a CNPJ, so redacting by **label** would delete the institute identifier. The rule is **digit count**: 11 = CPF, removed; 14 = CNPJ, kept. The statistician's **name** is kept: it is professional activity, already its own column, and it is what lets a reader audit who signed off on a poll.
-
-**Why past revisions are not rewritten.** This dataset's whole claim is that the record stays exactly as distributed. Purging history would require collapsing all revisions into one, destroying the public trail of every daily mirror to remove a number the TSE itself still serves openly. The defect is declared here instead, which is what an auditable dataset does with a past defect.
-
-**Prevention.** `scripts/redigir-cpf-tse-registry.mjs` runs in the mirror workflow between the registry rebuild and the export, and a second `--check` pass fails the build if any 11-digit CPF survives.
-
----
-
 ### ERR-2026-001 · `data/divergence-2026-07-29.csv` · Renan Santos
 
 | | Value |
@@ -53,29 +30,6 @@ Scope note on "append-only": the file for the **current** date may be regenerate
 
 ## PT-BR
 
-### ERR-2026-002 · `polls/tse-registry.csv` + `.json` · dado pessoal
-
-| | Valor |
-|---|---|
-| **Campo afetado** | texto livre de `methodology` e `sampling_plan` |
-| **Publicado** | o CPF do estatístico responsável, escrito dentro da prosa do registro |
-| **Correto** | `[CPF removido]` |
-| **Linhas afetadas** | 7 ocorrências, 4 pessoas distintas, em 533 registros |
-| **Detectado** | 04/08/2026 |
-| **Situação** | **Removido do arquivo atual e de todo arquivo publicado depois de 04/08/2026. As revisões publicadas antes dessa data ficam preservadas sem alteração, por decisão** — ver abaixo. |
-
-**Isto é minimização, não vazamento.** O registro vem do TSE Dados Abertos (`pesquisa_eleitoral_2026_BRASIL.csv`), publicado abertamente sob a **Lei 9.504/1997 art. 33** e a Resolução TSE 23.600/2019. Coletar foi correto e segue correto. O CPF sai porque **não é necessário à finalidade deste conjunto de dados**: nada aqui é cruzado por CPF, e a LGPD manda tratar só o que a finalidade exige.
-
-**Por que o CPF, especificamente.** O TSE não publica CPF como campo. Ele publica `statistician` como coluna própria, com o nome. O CPF chegou ao arquivo porque o pesquisador digitou o número dentro do texto livre de `methodology` / `sampling_plan`, campo destinado a descrever o desenho amostral. É conteúdo colateral, não publicação deliberada.
-
-**O que fica, e por quê.** O **CNPJ** do instituto fica. É registro de empresa, público por lei, e coluna que o TSE publica de propósito e preenche em 533 de 533 linhas. É também a única chave confiável de junção: o nome jurídico difere do nome pelo qual o instituto é conhecido (`REAL TIME MIDIA LTDA` atua como *Real Time Big Data*). Removê-lo destruiria a auditabilidade que justifica este conjunto de dados existir. Exige leitura cuidadosa: o TSE rotula parte do texto livre como `CNPJ/CPF` e a preenche com CNPJ, então redigir pelo **rótulo** apagaria o identificador do instituto. A régua é a **contagem de dígitos**: 11 é CPF e sai, 14 é CNPJ e fica. O **nome** do estatístico também fica: é atuação profissional, já é coluna própria, e é o que permite auditar quem assinou a pesquisa.
-
-**Por que as revisões passadas não são reescritas.** A afirmação central deste conjunto de dados é que o registro permanece exatamente como foi distribuído. Purgar o histórico exigiria colapsar todas as revisões numa só, destruindo o rastro público de cada espelhamento diário para remover um número que o próprio TSE continua servindo aberto. O defeito é declarado aqui, que é o que um conjunto de dados auditável faz com defeito passado.
-
-**Prevenção.** O `scripts/redigir-cpf-tse-registry.mjs` roda no espelhamento entre a reconstrução do registro e o export, e uma segunda passada com `--check` reprova a publicação se sobrar qualquer CPF de 11 dígitos.
-
----
-
 ### ERR-2026-001 · `data/divergence-2026-07-29.csv` · Renan Santos
 
 Este conjunto de dados é **datado e aditivo**. Arquivos de datas já encerradas **nunca são reescritos**, mesmo quando contêm erro conhecido. A correção é publicada aqui, para que o registro permaneça exatamente como foi distribuído e o defeito continue descobrível.
@@ -100,29 +54,6 @@ Este conjunto de dados é **datado e aditivo**. Arquivos de datas já encerradas
 
 ## ES
 
-### ERR-2026-002 · `polls/tse-registry.csv` + `.json` · dato personal
-
-| | Valor |
-|---|---|
-| **Campo afectado** | texto libre de `methodology` y `sampling_plan` |
-| **Publicado** | el CPF (número de contribuyente individual brasileño) del estadístico responsable, escrito dentro de la prosa del registro |
-| **Correcto** | `[CPF removido]` |
-| **Filas afectadas** | 7 apariciones, 4 personas distintas, de 533 registros |
-| **Detectado** | 04/08/2026 |
-| **Situación** | **Eliminado del archivo actual y de todo archivo publicado después del 04/08/2026. Las revisiones publicadas antes de esa fecha quedan preservadas sin alteración, por decisión** — ver abajo. |
-
-**Esto es minimización, no una filtración.** El registro viene del TSE Datos Abiertos (`pesquisa_eleitoral_2026_BRASIL.csv`), publicado abiertamente bajo la **Lei 9.504/1997 art. 33** y la Resolução TSE 23.600/2019. Recolectarlo fue correcto y sigue siéndolo. El CPF se elimina porque **no es necesario para la finalidad de este conjunto de datos**: nada aquí se cruza por CPF, y la LGPD exige tratar solo lo que la finalidad requiere.
-
-**Por qué el CPF, específicamente.** El TSE no publica el CPF como campo. Publica `statistician` como columna propia, con el nombre. El CPF llegó al archivo solo porque el encuestador escribió el número dentro del texto libre de `methodology` / `sampling_plan`, un campo destinado a describir el diseño muestral. Es contenido colateral, no publicación deliberada.
-
-**Qué se conserva, y por qué.** El **CNPJ** del instituto se conserva. Es registro de empresa, público por ley, y una columna que el TSE publica a propósito y llena en 533 de 533 filas. Es además la única clave fiable de unión: el nombre legal difiere del nombre por el que se conoce al instituto (`REAL TIME MIDIA LTDA` opera como *Real Time Big Data*). Eliminarlo destruiría la auditabilidad que justifica la existencia de este conjunto de datos. Exige lectura cuidadosa: el TSE rotula parte del texto libre como `CNPJ/CPF` y la llena con un CNPJ, así que redactar por **rótulo** borraría el identificador del instituto. La regla es el **conteo de dígitos**: 11 es CPF y sale, 14 es CNPJ y se queda. El **nombre** del estadístico también se conserva: es actividad profesional, ya es columna propia, y es lo que permite auditar quién firmó una encuesta.
-
-**Por qué no se reescriben las revisiones pasadas.** La afirmación central de este conjunto de datos es que el registro permanece exactamente como fue distribuido. Purgar el historial exigiría colapsar todas las revisiones en una sola, destruyendo el rastro público de cada espejado diario para eliminar un número que el propio TSE sigue sirviendo abiertamente. El defecto se declara aquí, que es lo que un conjunto de datos auditable hace con un defecto pasado.
-
-**Prevención.** `scripts/redigir-cpf-tse-registry.mjs` corre en el espejado entre la reconstrucción del registro y el export, y una segunda pasada con `--check` reprueba la publicación si sobrevive algún CPF de 11 dígitos.
-
----
-
 ### ERR-2026-001 · `data/divergence-2026-07-29.csv` · Renan Santos
 
 Este conjunto de datos es **fechado y aditivo**. Los archivos de fechas ya cerradas **nunca se reescriben**, ni siquiera cuando contienen un error conocido. La corrección se publica aquí, para que el registro permanezca exactamente como fue distribuido y el defecto siga siendo detectable.