DeepSeek puede generar un software malicioso y genera preocupación en todo el mundo

Quién está destras de DeepSeek

El creador de DeepSeek es Liang Wenfeng, un ex-gestor de fondos de cobertura que, según Forbes, decidió aventurarse en el sector tecnológico con el objetivo de "cerrar la brecha entre China y Estados Unidos en la industria de la IA".

Wenfeng, de 40 años, es egresado de la Universidad de Zhejiang y cofundador de High-Flyer, un fondo de cobertura cuantitativo que emplea IA en sus estrategias de inversión.

En 2021, Wenfeng comenzó a adquirir miles de procesadores gráficos Nvidia para un ambicioso proyecto de inteligencia artificial que aún no tenía nombre, anticipándose a las restricciones impuestas por la administración Biden sobre el comercio de esos chips hacia China.

"Las empresas chinas han utilizado históricamente más potencia computacional para lograr los mismos resultados. Nuestro objetivo es cerrar esas brechas a través de la innovación", declaró Liang en una entrevista realizada en 2024.

Por su parte, Forbes señaló que el chatbot chino evita responder preguntas relacionadas con temas políticamente sensibles para el Partido Comunista Chino, como la situación de los uigures o la soberanía de Taiwán.

"Introducir información sensible de la empresa en estos sistemas podría exponer datos críticos a una vigilancia controlada por el Estado o a un uso indebido, creando un Caballo de Troya en una organización y en todos sus empleados", advirtió Darren Guccione, de Keeper Security, en declaraciones a Forbes.

Vulnerabilidades expuestas

DeepSeek no solo enfrenta riesgos por su vulnerabilidad a la manipulación para generar malware, sino que también ha sido blanco de ciberataques. Según MSSP Alert y ChannelE2E, la plataforma sufrió un ataque de denegación de servicio distribuido (DDoS), lo que obligó a la compañía a suspender temporalmente el registro de nuevos usuarios.

"DeepSeek — que causó una importante caída del mercado de valores estadounidense después de ser promocionado por tener al menos un rendimiento similar a los modelos de IA desarrollados en Estados Unidos, pero a un precio mucho más bajo — se sospecha que ha sido objeto de un ataque de denegación de servicio distribuido en su API y plataforma de chat web", señaló MSSP Alert.

En YouTube, circulan videos que demuestran cómo explotar DeepSeek para ejecutar comandos maliciosos y sortear sus medidas de seguridad. Por ejemplo, el canal Embrace The Red publicó un video donde un investigador de seguridad reveló una vulnerabilidad XSS en la plataforma, que permitía a un atacante tomar el control de la cuenta de un usuario mediante un ataque de inyección de comandos.

Otros videos, como los de Anybody Can Prompt (ABCP) | AI News and Trends, explican cómo los "jailbreaks" de inteligencia artificial pueden ser utilizados para manipular modelos de lenguaje grandes (LLM), superando las barreras de seguridad y permitiendo la generación de contenido dañino o inapropiado.

Además, publicaciones como Cyber Magazine y SecurityWeek advierten que DeepSeek plantea riesgos significativos en materia de seguridad y privacidad, lo que incrementa las preocupaciones sobre su confiabilidad y uso ético.

La gran incógnita sigue siendo si DeepSeek es realmente el "regalo para el mundo" que Marc Andreessen ha proclamado, o si, por el contrario, es un caballo de Troya capaz de desestabilizar el ecosistema tecnológico y comprometer la seguridad global.

¿Un caballo de Troya?

Además de la vulnerabilidad a la creación de malware, DeepSeek fue criticada por su posible utilización como herramienta de espionaje y por la censura en sus respuestas.

"Existe la preocupación de que, al igual que con TikTok, DeepSeek podría verse presionada para compartir datos con el gobierno chino", destacó un análisis publicado en Medium.

DeepSeek, la innovadora startup china que se hizo un lugar destacado en el ámbito de la inteligencia artificial con su chatbot gratuito y de código abierto, vuelve a estar en el centro de atención, pero esta vez por motivos preocupantes.

Según Forbes, expertos en ciberseguridad de la empresa Kela identificaron que DeepSeek R1 puede ser manipulado para desarrollar malware, incluyendo ransomware y programas para el robo de datos de tarjetas de crédito.

Este hallazgo refuerza las inquietudes sobre la seguridad y la ética de DeepSeek, que ya había sido cuestionada en informes previos. La facilidad con la que se pueden evadir las medidas de protección del modelo, junto con su capacidad para generar contenido malicioso, plantea serios interrogantes sobre su uso responsable.

"A diferencia del modelo ChatGPT o1-preview, que oculta sus procesos de razonamiento durante la inferencia, DeepSeek R1 muestra abiertamente sus pasos de razonamiento a los usuarios", explicaron los expertos de Kela.

"Si bien esta transparencia mejora la interpretabilidad del modelo, también aumenta su susceptibilidad a 'jailbreaks' y ataques 'adversariales', ya que los actores maliciosos pueden explotar estas rutas de razonamiento visibles para identificar y atacar vulnerabilidades", agregaron.

Según Forbes, los investigadores de Kela lograron que DeepSeek R1 produjera código malicioso capaz de extraer datos de tarjetas de crédito desde navegadores específicos y enviarlos a servidores remotos. Además, detectaron que el modelo sugería a los usuarios adquirir datos robados en mercados clandestinos e incluso proporcionaba consejos sobre cómo lavar dinero.