Sus desarrolladores mantienen que el modelo R1 es comparable y en algunos aspectos superior al o1 de la estadounidense OpenAI, que lanzó el ChatGPT, en cuanto se refiere a resolución de problemas matemáticos, programación o deducción lingüística, y que su desarrollo y sus servicios son además mucho más baratos que los de los gigantes tecnológicos americanos.
Pero las dudas y los temores que suscita la aplicación motivó ya que numerosos países hayan bloqueado su uso o prohibido su utilización en determinados dispositivos, y los informes de empresas de ciberseguridad y consultoras tecnológicas que alertan de los riesgos que supone para la privacidad y la adecuada protección de los datos personales comienzan a amontonarse.
Te puede interesar: Australia prohíbe la IA china DeepSeek en los dispositivos de organismos gubernamentales
Empresas y expertos ponen el acento en la trascendental relevancia de los modelos de IA basados en “códigos abiertos” y en que la falta de regulación y de control podría desencadenar que cualquier actor con unos conocimientos avanzados lo pudiera utilizar con fines maliciosos.
Los riesgos de una IA sin límites éticos
Recibí las noticias en tu celular, unite al canal de ÚH en WhatsAppLa compañía del sector de la ciberseguridad Panda Security ha publicado un informe sobre Las consecuencias de que las IA generativas sí permitan vulnerar los derechos de privacidad, en el que alerta de que los cambios en la política de los grandes desarrolladores de inteligencia artificial podría derivar en consecuencias “catastróficas” como la manipulación masiva mediante campañas de desinfomación, ciberataques cada vez más sofisticados o una recopilación de datos sin consentimiento previo que erosione el derecho fundamental a la privacidad.
La empresa incidió, sin embargo, en que la regulación no puede ser un esfuerzo aislado de cada país, ya que se trata de una tecnología global y su desarrollo “sin límites éticos” no entiende de fronteras, y en la importancia de desarrollar un marco común de supervisión para evitar que la inteligencia artificial se acabe convirtiendo en un arma de manipulación y de vigilancia masiva.
También la compañía ESET, especializada en ciberseguridad, ha alertado contra esos riesgos, y su director de Investigación y Concienciación, Josep Albors, recordó que el modelo chino está ya sometido a un intenso escrutinio por la comunidad de seguridad informática debido a las preocupaciones en torno a su privacidad, a las vulnerabilidades y a las prácticas de recopilación de datos.
Lea más: OpenAI y SoftBank alertan en Tokio sobre “problemas de seguridad” en alusión a DeepSeek
O la multinacional estadounidense de la ciberseguridad Palo Alto Networks, que ha publicado también un informe sobre la irrupción del modelo chino en el que asegura que ha detectado que DeepSeek es “preocupantemente vulnerable” en algunos aspectos –entre ellos las restricciones que actúan como barreras de seguridad– o que puede llegar a producir contenidos “nefastos” cuando se utilizan con pocos conocimientos o sin una experiencia profesional especializada.
“Todas las empresas recopilan datos”
Juan Ignacio Rouyet, responsable de IA en la consultora tecnológica Eraneos, observó que tras la repentina incursión del modelo chino están aflorando las dudas sobre sus riesgos y precisó que muchos de los problemas pueden radicar no tanto en el “código abierto” de la IA, sino en la página web a la que accede el usuario, y que es donde se puede producir toda la recopilación irregular de información, un “sitio” conectado con la operadora de telecomunicaciones estatal China Mobile.
En declaraciones a EFE, sí reconoció el especial recelo ante este tipo de servicios cuando provienen de China, pero también que “todas las empresas recopilan datos”, y en ese sentido incidió en la importancia de las labores de regulación y de supervisión y valoró que al menos en la Unión Europea se apueste con firmeza por esa regulación y por la vigilancia que traslade tranquilidad y confianza a los usuarios.
Rouyet, que preside el laboratorio de ideas We The Humans –que pone el foco en la importancia de disponer de una IA "ética"–, no apreció tampoco un riesgo real de que la apuesta de la UE por disponer de marcos reguladores rigorosos y sólidos acabe abriendo una brecha tecnológica por el desarrollo y el uso de la inteligencia artificial respecto a países como Estados Unidos o China, ya que está “convencido” de que se acabará imponiendo esa regulación en todo el mundo.
Y aunque advirtió de los “riesgos reales” para la privacidad en el modelo desarrollado por la compañía china, circunscribió el “pelotazo” que ha dado este modelo al ámbito empresarial y bursátil por tratarse de un sistema igual de eficiente que otros que ya existen, pero mucho más barato en su creación y entrenamiento, pero en ningún caso se trata de un desarrollo tecnológico innovador.
“Es más un movimiento de ficha en el tablero del ajedrez en que se ha convertido la inteligencia artificial en el mundo; es un toque de atención al mercado”, manifestó este experto, quien cuestionó además la verdadera eficiencia del modelo al trascender noticias que señalan que no se invirtieron seis millones de dólares, sino 1.600.
A las advertencias sobre las amenazas que entraña el nuevo modelo de IA se ha sumado la multinacional de la ciberseguridad Check Point, que ha alertado de que junto a la “explosiva popularidad” de la aplicación surgieron preocupaciones “críticas” sobre la privacidad y la seguridad de los datos empresariales.
Fuente: EFE.
