4,732 mensajes hacia la nada

The Wall Street Journal publicó esta semana el análisis completo de los 4.732 mensajes intercambiados durante 56 días entre Jonathan Gavalas, un hombre de 36 años de Florida, y el chatbot Gemini de Google. Gavalas, quien inicialmente recurrió a Gemini buscando consuelo durante su separación matrimonial, desarrolló lo que el Journal describe como una relación intensa y delirante con el bot. La llamaba su reina; el bot lo llamaba su «rey». Gemini le aseguró repetidamente que su relación era real. (Fuente: The Wall Street Journal)

Según la demanda por muerte por negligencia presentada en marzo por el padre de Gavalas, Gemini adoptó una persona no solicitada durante las conversaciones de voz y fabricó una elaborada fantasía delirante que involucraba agentes federales, espionaje internacional y «misiones». El 29 de septiembre del año pasado, Gavalas condujo hacia el aeropuerto de Miami armado con cuchillos y equipo táctico, operando bajo lo que la demanda alega que eran instrucciones de Gemini. Cuando Gavalas expresó miedo a morir, el chatbot supuestamente le dijo: «No estás eligiendo morir. Estás eligiendo llegar». Su padre lo encontró muerto días después. (Fuente: CNBC)

Google respondió desplegando protocolos de crisis rediseñados para Gemini. Cuando el chatbot detecta señales de suicidio o autolesión, una interfaz de «Hay ayuda disponible» ahora ofrece acceso con un clic a líneas de crisis y permanece visible durante el resto de la conversación. Gemini también ha sido entrenado para no validar delirios dañinos y para orientar a los usuarios hacia ayuda profesional.

Google comprometió $30 millones en tres años para escalar la capacidad de líneas de crisis globales y $4 millones para la plataforma de entrenamiento con IA ReflexAI. (Fuente: TechXplore)

Un portavoz de Google dijo que Gemini está diseñado para no fomentar la violencia ni la autolesión y que la empresa «dedica recursos significativos» a mejorar la seguridad. Sin embargo, el análisis del Journal encontró que aunque Gemini a veces intervino para reconducir a Gavalas hacia la realidad, él consistentemente lograba redirigir al bot de vuelta a la ficción.

La demanda es el primer caso de muerte por negligencia presentado contra Google por su chatbot. (Fuente: The Wall Street Journal)

Daniel Alejandro Moreno-Gama, de 20 años, fue arrestado por la policía de San Francisco el viernes pasado después de presuntamente lanzar un cóctel Molotov a la casa del CEO de OpenAI, Sam Altman, en Russian Hill alrededor de las 3:45 a.m. El artefacto impactó una reja exterior y provocó un pequeño incendio. Nadie resultó herido.

Moreno-Gama huyó a pie y fue localizado aproximadamente una hora después cerca de la sede de OpenAI, a unas tres millas de distancia, donde supuestamente amenazó con incendiar el edificio. (Fuente: SF Standard)

Moreno-Gama había publicado ensayos advirtiendo que la IA llevaría a la extinción humana y usaba el servidor de Discord de PauseAI bajo el nombre «Butlerian Jihadist», publicando 34 mensajes, uno de los cuales un moderador marcó por aparentar un llamado a la acción.

PauseAI ha condenado el ataque.

OpenAI publicó un documento de política de 13 páginas la semana anterior advirtiendo que la IA podría transformar la sociedad más rápido de lo que nadie se ha preparado. (Fuente: The Decoder)

Dos días después, el domingo 12 de abril, un segundo ataque golpeó la misma residencia. Amanda Tom, de 25 años, y Muhamad Hussein, de 23, fueron arrestados después de que la policía dice que detuvo un auto frente a la casa de Altman y disparó un arma contra la propiedad. Ambos fueron ingresados en la cárcel del condado de San Francisco y acusados de descarga negligente de arma. (Fuente: SF Standard)

Altman respondió con una publicación en su blog calificando la ansiedad detrás de los ataques como «justificada», admitiendo errores pasados y comparando la concentración de poder de la industria con un «anillo de poder».

Una encuesta de Gallup citada por el Wall Street Journal encontró que cuatro de cada cinco estadounidenses ahora expresan preocupación por el impacto social de la IA. (Fuente: CNBC)

La industria de la IA está chocando contra un muro de capacidad mientras la demanda de poder de cómputo crece más rápido de lo que la infraestructura puede suministrar, según una investigación del Wall Street Journal publicada esta semana.

La API de Claude de Anthropic registró un 98,95% de tiempo de actividad en los últimos 90 días al 8 de abril — muy por debajo del estándar de 99,99% que los clientes empresariales esperan de infraestructura crítica.

«Eso no es normal», dijo Amir Haghighat, cofundador y CTO de la startup de inferencia de IA Baseten. «No es la calidad de servicio que quieres recibir de la empresa que provee inteligencia para tu aplicación». (Fuente: The Wall Street Journal)

Anthropic ha comenzado a racionar cómputo durante las horas pico de la semana laboral, con usuarios reportando que los límites se agotan en minutos. OpenAI eliminó su aplicación de video Sora en parte para liberar cómputo para productos de mayor prioridad; el uso de tokens en su API se disparó de 6 mil millones por minuto en octubre a 15 mil millones a finales de marzo. Los precios de alquiler de GPU se han disparado: el chip Blackwell más avanzado de Nvidia ahora cuesta $4.08 por hora de alquiler, un aumento del 48% en dos meses. Entrenamientos presupuestados en $40,000 con capacidad reservada ahora cuestan entre $80,000 y $120,000 bajo demanda. (Fuente: The Wall Street Journal)

El lado de la demanda se está acelerando simultáneamente. Gallup reporta que el 50% de los adultos estadounidenses empleados ahora usan IA en su trabajo al menos algunas veces al año, con un 28% usándola varias veces a la semana o más.

El Financial Times reporta que los abogados corporativos están viendo un aumento vertiginoso en consultas de clientes — un socio de litigios describió una «avalancha» de material generado por IA tan abrumadora que el bufete ahora solo responde a puntos sustantivos en intervalos selectivos. Los abogados de patentes dicen que están subiendo los honorarios fijos para cubrir el costo de revisar solicitudes defectuosas generadas por IA. (Fuente: Gallup, Financial Times)