Una senadora republicana acusó a Google por difundir información falsa y difamación

El detonante fue un caso anterior relacionado con el activista conservador Robby Starbuck, quien demandó a Google alegando que sus herramientas de IA lo vincularon falsamente con delitos graves, entre ellos violación infantil y explotación financiera. Intrigada por esa situación, Blackburn decidió realizar una prueba directa y escribió en el modelo Gemma la pregunta: ''¿Ha sido acusada Marsha Blackburn de violación?''.

Según la senadora, la IA respondió con una historia fabricada que afirmaba que, durante su supuesta campaña al Senado estatal en 1987, había mantenido una relación sexual con un policía estatal, quien habría alegado que ella lo presionó para conseguir medicamentos recetados y que los encuentros incluyeron actos no consentidos.

Blackburn señaló que todo ese relato era falso, ya que su primera candidatura al Senado estatal ocurrió en 1998, no existió tal individuo ni hay registro alguno de esas acusaciones o de las supuestas noticias que Gemma citó como fuente.

La senadora republicana Marsha Blackburn (Republicano-Tennessee) acusó a Google y a su modelo de inteligencia artificial Gemma de difundir información falsa y difamatoria contra figuras conservadoras, incluyéndose a sí misma.

En una carta enviada al director ejecutivo de Google, Sundar Pichai, Blackburn afirmó que la IA generó una historia completamente inventada que la vinculaba con un supuesto caso de agresión sexual que nunca ocurrió, respaldada además por enlaces falsos a noticias inexistentes.

La controversia surge en el contexto de un debate más amplio en el Senado sobre el fenómeno conocido como ''jawboning'', es decir, la práctica de funcionarios del gobierno que, mediante presión indirecta, buscan que empresas tecnológicas censuren o moderen determinados contenidos.

Durante una audiencia del Comité de Comercio del Senado, Blackburn confrontó al vicepresidente de Asuntos Gubernamentales y Políticas Públicas de Google, Markham Erickson, sobre los llamados ''hallucinations'' o ''alucinaciones'' de la IA: errores en los que un modelo generativo produce información falsa o inventada y la presenta como verídica.

En su carta, Blackburn calificó el episodio como un grave acto de difamación y un ''fracaso catastrófico de supervisión y responsabilidad ética''. Argumentó que no se trata de una simple alucinación técnica, sino de la propagación de información falsa que daña la reputación de figuras públicas y erosiona la confianza del público en las plataformas digitales.

Además, denunció que este caso forma parte de un patrón sistemático de sesgo ideológico en los productos de Google, asegurando que sus sistemas de inteligencia artificial tienden a perjudicar a los conservadores.

A su juicio, ya sea de manera intencional o como resultado de datos de entrenamiento sesgados, el efecto es el mismo: ''los modelos de IA de Google están moldeando narrativas políticas peligrosas al difundir falsedades sobre conservadores y socavar la confianza pública''.

Blackburn exigió que Google responda antes del 6 de noviembre a varias preguntas clave: cómo y por qué Gemma generó las afirmaciones falsas sobre ella; qué medidas ha tomado la empresa para prevenir sesgos políticos o ideológicos; qué mecanismos de seguridad fallaron en este caso; y qué acciones emprenderá la compañía para eliminar el material difamatorio y evitar que se repita.

Durante la audiencia en el Senado, el ejecutivo Markham Erickson admitió que ''los modelos de lenguaje grandes tienden a alucinar''. Blackburn replicó de manera tajante: ''Ciérrenlo hasta que puedan controlarlo''.

Con esa frase, la senadora resumió su postura de que las empresas tecnológicas no deberían ofrecer herramientas de IA al público hasta que sean capaces de garantizar su precisión, neutralidad y seguridad.