La plataforma comunista china de inteligencia artificial conocida como "DeepSeek", que experimentó un notable aumento en su popularidad en las últimas semanas, enfrenta una creciente polémica debido a fallas de seguridad y preocupaciones sobre el manejo de datos de los usuarios.
Según una investigación de WIRED, expertos en ciberseguridad de la firma Wiz detectaron una base de datos expuesta en internet con más de un millón de registros, que incluían información de usuarios y claves de autenticación de API.
"El nivel de acceso que tuvimos es muy alto para un error tan básico", advirtió Ami Luttwak, director de tecnología de Wiz, en declaraciones a WIRED.
Según los investigadores, la base de datos en cuestión era del tipo ClickHouse, utilizada para análisis de servidores, y contenía información que iba desde interacciones de usuarios hasta rutas internas del sistema de DeepSeek. Aunque la vulnerabilidad fue corregida en menos de 30 minutos tras la notificación de Wiz, no se ha determinado si actores malintencionados accedieron a la información antes de su cierre.
Policía chino reprimiendo gente.
Además, DeepSeek ha sido comparada con modelos como ChatGPT de OpenAI, lo que, según WIRED, podría facilitar la adaptación de nuevos usuarios a su interfaz.
"La ubicación y el acceso a esta base de datos eran particularmente fáciles de detectar", afirmó Nir Ohfeld, jefe de investigación de vulnerabilidades en Wiz, señalando que este tipo de fallos generalmente requieren "horas de escaneo" para ser descubiertos, pero en este caso "estaba prácticamente a la vista".
El ascenso vertiginoso de DeepSeek generó un impacto en el mercado de inteligencia artificial, afectando el valor de compañías estadounidenses como OpenAI. De acuerdo con The Financial Times, OpenAI está investigando si DeepSeek ha utilizado respuestas de ChatGPT para entrenar sus propios modelos.
Censura y espionaje chino
Mientras tanto, las preocupaciones sobre ciberseguridad han escalado. CNBC informó que la Marina de los Estados Unidos emitió una advertencia a su personal instándolos a no "descargar, instalar ni utilizar" los servicios de DeepSeek debido a "potenciales riesgos de seguridad y ética".
DeepSeek envía los datos privados directamente a China.
En Europa, la plataforma también enfrenta cuestionamientos. En Italia, el regulador de protección de datos solicitó información sobre el origen de los datos de entrenamiento de DeepSeek y posibles infracciones en el uso de información personal. Según WIRED Italia, poco después de recibir estas consultas, la aplicación dejó de estar disponible en el país.
Sean O’Brien, fundador del Laboratorio de Privacidad de la Facultad de Derecho de Yale, sumó nuevas preocupaciones al debate: "DeepSeek está enviando datos básicos de red y perfiles de dispositivos a ByteDance, propietario de TikTok, y sus intermediarios", afirmó en declaraciones a WIRED. Esto refuerza el temor sobre la posible transferencia masiva de datos de usuarios internacionales hacia China, lo que podría generar mayores restricciones regulatorias.
WIRED destacó que la información recopilada por DeepSeek abarca chats, historial de navegación dentro de su plataforma, datos personales como direcciones de correo electrónico, números telefónicos y direcciones IP, además de datos obtenidos mediante cookies.
Su política de privacidad establece que estos datos serán almacenados en servidores ubicados en China, donde podrían ser utilizados para cumplir con "obligaciones legales" en el marco de estrictas leyes que otorgan a la dictadura china acceso a información privada de los usuarios.
Bart Willemsen, analista y especialista en privacidad, advirtió en WIRED que la mayoría de los usuarios no entienden completamente el funcionamiento interno de estas plataformas ni los datos que se emplean para su entrenamiento.
Además, expresó su preocupación por las "posibles influencias ideológicas incorporadas en estos sistemas". Según Willemsen, la manera en que los usuarios interactúan con estos modelos aumenta el riesgo de manipulación subliminal del contenido o direccionamiento en las conversaciones.
El tema de la censura también fue motivo de controversia. Varios usuarios señalaron que DeepSeek evita responder preguntas sobre temas sensibles, como la masacre de Tiananmén de 1989, y que, en su lugar, ofrece respuestas alineadas con narrativas oficiales del Partido Comunista Chino.
