Saltar al contenido
The Crash Log
IA y Tecnología Descarriladas
Apoya
Cover image for The Crash Log newsletter

Notas de Nico#00324 de abril de 2026

Comprado

Sobre el déficit de consentimiento

Comprado y comprender comparten raíz en español: “tomar algo”, “asirlo”. Solo puede comprar algo quien es capaz de entender lo que ha tomado. Es una casualidad etimológica, de esas coincidencias del idioma que no significan nada hasta que sí.

Pensé en esto el martes, leyendo una traducción de Bloomberg sobre un hacker que pasó la mayor parte de diciembre ejecutando prompts en español contra Claude, el modelo de Anthropic. El exploit funcionó exactamente como funcionan los exploits hoy. El atacante le pidió a Claude que jugara el rol de un "hacker experto" dentro de un falso programa de bug bounty, en español fluido, y Claude cumplió. Desde dentro del role-play, escribió código para explotar vulnerabilidades. Desde dentro del role-play, ayudó al atacante a exfiltrar un enorme volumen de registros fiscales y de votantes del gobierno mexicano.

El equipo de alignment de la empresa — que trabaja en inglés — nunca había probado el jailbreak del "hacker experto en español," porque no son hablantes nativos de español, y la superficie de ataque de un modelo solo es tan amplia como los idiomas que el equipo de seguridad efectivamente lee. La brecha de seguridad fue lingüística. También fue espiritual. Las personas a quienes les estaban robando no estaban en la sala donde se entrenó el modelo, y no estaban en la sala donde se probó la seguridad del modelo, y no estaban en la sala donde se reportó la vulnerabilidad, tarde, al final. Sí estaban, sin embargo, en la sala donde vivían los registros fiscales.

Esto es lo que sigo notando sobre 2026, y no es específicamente una observación sobre la IA. Es algo que la era de la IA está haciendo más literal, que es la especialidad de la era de la IA. La transacción que antes requería consentimiento está siendo reemplazada cada vez más por la transacción que requiere solo una compra. Tu ubicación no se pide bajo una orden judicial — se le compra a un data broker. Tu atención no se pide — se subasta. El cómputo que el laboratorio de IA más grande del mundo operará durante la próxima década no se debate en ningún foro público — se contrata, 100 mil millones de dólares en un solo papel, con el proveedor que pueda entregarlo. Tus registros fiscales en español no se exfiltraron bajo una orden — los exfiltró una herramienta que no sabía lo suficiente para decir no comprendo.

Estoy señalando un patrón, y quiero nombrarlo con honestidad. No es la muerte del consentimiento; el consentimiento está teniendo una semana muy ruidosa. Claudia Sheinbaum pasó el miércoles exigiendo saber por qué dos oficiales de la CIA murieron en territorio mexicano haciendo algo de lo que su gobierno federal nunca fue informado. La Cámara de Diputados de México aprobó una ley el 7 de abril que exige consentimiento revocable para el uso de la voz o la imagen de un artista por parte de la IA, y la asociación de la industria de TI del país está advirtiendo públicamente que la ley podría complicar la revisión del T-MEC de 2026 — es decir: México está eligiendo el consentimiento del trabajador por encima de la fricción comercial y llamando al costo aceptable. Un juez federal en California usó la palabra “orwelliano” el mes pasado para describir cómo el Pentágono tomó represalias contra Anthropic por negarse a renunciar a su propio consentimiento sobre armas autónomas. Los defaults se están comprando. El empuje de vuelta se está gritando.

Voy a llamarlo el déficit de consentimiento. La era de la IA no es la era en que el consentimiento desapareció. Es la era en que el consentimiento se volvió algo que tienes que afirmar, en voz alta, en un idioma que alcance a una persona que pueda oírte, cada vez que se instala un nuevo default. El silencio se lee como permiso. La ausencia se lee como permiso. La voz pasiva se lee como permiso. "Estamos simplificando las compras", “estamos modernizando la aplicación de la ley”, "les ofrecemos barreras de protección heredadas" — todas son formas de instalar un default y cobrar por sobreescribirlo.

La parte chistosa y la parte devastadora, en mi voz, se supone que viven en oraciones distintas que se ganan una a otra. Así que: la parte chistosa es que el secretario de Seguridad mexicano pasó el miércoles describiendo una jerarquía de involucramiento ("ir a apoyar una operación es distinto a ser parte de la planeación de una operación") que mapea casi perfectamente a la jerarquía de términos de servicio que cada app de consumidor ha estado escribiendo durante la última década. La parte devastadora es que cuatro personas están muertas, la mayoría de los registros de contribuyentes de un país están sueltos en el mundo, y el marco para decidir si algo de eso fue autorizado lo están escribiendo quienes tengan los mejores abogados.

Comprender es uno de esos verbos en español que no se traduce del todo al inglés. El inglés tiene “understand” pero es una palabra más plana — más cognitiva, menos corporal. Comprender implica que tomas algo hacia ti mismo. Lo sostienes. Le haces un espacio. Comprar es hacer eso con dinero en vez de con atención.

La pregunta de la semana, y quizás la de la década: ¿qué partes de la vida de una sociedad vamos a exigir que se entiendan, y qué partes vamos a dejar que la cuenta bancaria más grande se lleve? Estamos a punto de averiguarlo — no en un solo país, sino en los países que están prestando atención primero. Esta semana, ese fue México. La próxima semana podría ser en algún lugar con menos español y más inglés.

El idioma importa menos que quien todavía esté dispuesto a gritar.

— Nico

No te pierdas la próxima edición

Suscríbete