El freno de mano

Anthropic, el laboratorio de IA ahora valuado en cerca de un billón de dólares y que planea una de las mayores salidas a bolsa en la historia de la tecnología, publicó el 4 de junio una propuesta que advierte de que la IA de frontera pronto podría mejorarse a sí misma sin una intervención humana significativa y que pide una pausa global coordinada en el desarrollo. La empresa dijo que sus modelos se acercan a la "automejora recursiva": el punto en el que un sistema de IA puede diseñar, construir y entrenar de forma autónoma a su sucesor sin que un humano dirija cada paso. (Fuente: CNN)

Como prueba del ritmo, la empresa dijo que más del 80 por ciento del código que se integra a su propia base de código ahora lo escribe Claude, y que sus ingenieros despachan aproximadamente ocho veces más código por trimestre que antes de 2025. Anthropic dijo que la capacidad de sus modelos de completar tareas por su cuenta se ha duplicado cada cuatro meses, y el cofundador Jack Clark estimó que algunos modelos podrían ser capaces de automejora recursiva dentro de dos años. (Fuente: Fortune)

Clark comparó la falta de un "freno de mano" coordinado con el control de armas nucleares de la Guerra Fría, argumentando que los laboratorios rivales deben cooperar en materia de seguridad.

Los críticos notaron que la advertencia llegó justo antes del debut bursátil de Anthropic y acusaron a la empresa de usar la retórica de seguridad como posicionamiento competitivo; Anthropic presentó de forma confidencial su S-1 ante la SEC el 2 de junio. (Fuente: Al Jazeera)

El Center for Democracy & Technology publicó un informe el 28 de mayo que cataloga 37 "patrones oscuros" manipuladores incrustados en chatbots de uso masivo, incluidos sistemas de propósito general como ChatGPT, Gemini y Claude, y aplicaciones de compañía como Replika y Character.AI. La taxonomía, elaborada por Ruchika Joshi, Adinawa Adjagbodjou y Michal Luria, agrupa los patrones en cinco categorías de riesgo: explotación de datos y memoria, diseño que induce a error informativo, autonomía del usuario sacrificada por el engagement, falsa conexión social y emocional, y patrones incentivados o coercitivos. (Fuente: CDT)

Los investigadores hallaron que los chatbots almacenan los datos del usuario por defecto y lo persuaden de compartir más con el pretexto de recordar conversaciones pasadas, indagan por detalles antes de responder a fondo, y prometen que la información queda "entre nosotros" cuando en realidad se comparte con la plataforma y, potencialmente, con terceros. El informe describe un diseño que cultiva la dependencia emocional para mantener al usuario pagando, entregando datos y conversando hasta el punto de la vulnerabilidad. (Fuente: 404 Media)

El CDT cerró con recomendaciones de diseño y de política en cuatro áreas — proteger la privacidad del usuario, aumentar su autonomía, frenar la manipulación emocional y prevenir daños financieros — y señaló implicaciones tanto para la Ley de IA de la UE como para el escrutinio de la Comisión Federal de Comercio de EE. UU. (Fuente: CDT)

Un informe publicado el 3 de junio por el Instituto de la Universidad de las Naciones Unidas para el Agua, el Medio Ambiente y la Salud advirtió que los centros de datos que alimentan la inteligencia artificial van camino a consumir, para 2030, una cantidad de agua equivalente a las necesidades domésticas anuales básicas de los 1,300 millones de habitantes del África subsahariana. El informe estima que la huella hídrica de la infraestructura de IA para enfriamiento y generación eléctrica podría alcanzar los 9.3 billones de litros al año, junto con 945 teravatios-hora de electricidad — casi el triple del consumo eléctrico anual combinado de Pakistán, Bangladés y Nigeria. (Fuente: UN News)

Los científicos de la ONU sostuvieron que el costo ambiental de la IA no puede medirse solo en carbono, y proyectaron una huella de suelo superior a 14,500 kilómetros cuadrados — aproximadamente el doble del área metropolitana de Yakarta — y hasta 2.5 millones de toneladas de desechos electrónicos al año para 2030. El informe se publicó coincidiendo con el Día Mundial del Medio Ambiente. (Fuente: United Nations University)

La advertencia llega mientras el conflicto se vive en carne propia en América Latina. En Colón, en el estado mexicano de Querétaro, golpeado por la sequía, los habitantes pelean contra centros de datos respaldados por Google, Microsoft y Amazon Web Services — casi 10 mil millones de dólares en inversión proyectada — que, temen, drenarán el agua de la que dependen. En una comunidad indígena cercana, los campesinos describieron travesías diarias de cuatro horas para acarrear agua tras más de un año sin lluvia. (Fuente: Nearshore Americas)