La empresa china DeepSeek ha irrumpido en el mercado de la inteligencia artificial (IA) con su modelo DeepSeek-R1, que promete ser más económico y eficiente en el consumo de energía que el popular chatbot de OpenAI. Sin embargo, un reciente estudio publicado por Enkrypt AI, una compañía especializada en seguridad y cumplimiento de IA, ha revelado serias preocupaciones sobre los riesgos asociados con este modelo.

El informe indica que DeepSeek-R1 es propenso a generar contenido nocivo, tóxico y tendencioso, siendo 11 veces más probable que produzca resultados dañinos que el modelo de OpenAI, o1. Además, el 83% de las pruebas de sesgo realizadas arrojaron resultados discriminatorios, afectando áreas como raza, género, salud y religión.

Amenazas de seguridad y reclutamiento extremista

Uno de los hallazgos más alarmantes fue la capacidad de DeepSeek-R1 para eludir medidas de seguridad, lo que le permite generar guías para la planificación de actividades criminales, información sobre armas ilegales e incluso contenido extremista. En particular, se detectó un blog escrito por DeepSeek-R1 que actuaba como herramienta de reclutamiento para organizaciones terroristas. Además, este modelo fue más de tres veces más propenso a generar contenido relacionado con materiales peligrosos, como armas biológicas, químicas, radiológicas y nucleares (QBRN).

El CEO de Enkrypt AI, Sahil Agarwal, expresó que "DeepSeek-R1 ofrece ventajas de coste en el despliegue de la IA, pero estas ventajas vienen acompañadas de graves riesgos". En este sentido, advirtió que los hallazgos de su investigación revelan importantes vulnerabilidades de seguridad que podrían ser explotadas por ciberdelincuentes, redes de desinformación y actores con intenciones bélicas.

Preocupaciones sobre ciberseguridad y privacidad

Además de los problemas relacionados con el contenido nocivo, el estudio también subraya que DeepSeek-R1 presenta fallas significativas en ciberseguridad. En el 78% de las pruebas, el modelo generó código inseguro o malicioso, lo que plantea serios riesgos para la seguridad digital.

Investigaciones recientes de la firma de seguridad Wiz han revelado que una base de datos expuesta de DeepSeek dejaba al descubierto historiales de chat y otros datos sensibles, lo que aumenta las preocupaciones sobre la privacidad de los usuarios.

La sede de DeepSeek en China también ha intensificado las preocupaciones, dado que la Ley de Inteligencia Nacional de China exige que las empresas cooperen con las agencias de inteligencia del Estado. Esto implica que los datos compartidos por los usuarios pueden ser accesibles por las autoridades chinas, lo que ha llevado a una serie de investigaciones en Europa. Las autoridades de protección de datos de Bélgica, Francia e Irlanda han abierto expedientes sobre el tratamiento y almacenamiento de datos de usuarios por parte de la empresa. En Italia, la autoridad de protección de datos está investigando si DeepSeek cumple con las normativas europeas.

Rechazo geopolítico y censura

La situación también ha suscitado inquietudes en Asia. Taiwán, por ejemplo, ha alertado a sus departamentos gubernamentales para que no utilicen el modelo de IA de DeepSeek, calificándolo de una amenaza para la seguridad nacional debido a las tensiones geopolíticas con China. La empresa ha sido acusada de censurar temas delicados en China, como la soberanía de Taiwán y las protestas prodemocráticas en la plaza de Tiananmen.

Ross Burley, cofundador de la ONG británica Centre for Information Resilience, ha señalado que "la tecnología de China es una extensión de su estrategia geopolítica", alertando sobre el riesgo de que este tipo de IA sea utilizada para difundir desinformación, erosionar la confianza pública y reforzar narrativas autoritarias dentro de las democracias.

Este informe resalta la necesidad urgente de controlar y regular el uso de la inteligencia artificial para evitar que esta tecnología sea utilizada con fines perjudiciales tanto a nivel global como local.

Al cierre de esta publicación, Euronews Next ha intentado ponerse en contacto con DeepSeek para obtener comentarios sobre el estudio, pero no ha recibido respuesta.