25 may. 2025

Elon Musk y miles de expertos se unen para frenar inteligencia artificial

El ahora propietario de Twitter y fundador de Tesla, Elon Musk; el historiador Yuval Noah Harari; el creador de Apple y miles de expertos alrededor del mundo se unieron para pedir el cese de las nuevas inteligencias artificiales durante por lo menos seis meses.

chatgpt.jpg

El sistema ChatGTP está disponible en Paraguay.

Foto: Archivo ÚH

Elon Musk, fundador de Tesla o SpaceX y dueño actual de la red social Twitter; el reconocido historiador y escritor israelí Yuval Noah Harari; el creador de Apple, Steve Wozniak, así como más de 1.000 investigadores y creadores digitales se unieron para pedir frenar la implementación de experimentos gigantes de inteligencia artificial (IA), como el caso del sonado ChatGPT.

Mediante una carta abierta en línea, dirigida a los laboratorios de IA y firmada por los expertos, piden suspender la implementación de las tecnologías más potentes durante al menos seis meses, debido a que consideran que suponen riesgos para la humanidad.

“Hacemos un llamado a todos los laboratorios de IA para que pausen inmediatamente durante al menos 6 meses el entrenamiento de los sistemas de IA más potentes que GPT-4. Los sistemas de IA con inteligencia humano-competitiva pueden plantear riesgos profundos para la sociedad y la humanidad”, expresa el inicio del escrito.

Seguidamente, aseguran que una extensa y ya reconocida investigación recoge que la IA avanzada “podría representar un cambio profundo en la historia de la vida en la Tierra y debe planificarse y administrarse con el cuidado y los recursos correspondientes”.

icono whatsappRecibí las noticias en tu celular, unite al canal de ÚH en WhatsApp

Puede leer: Inteligencia artificial: Cómo ChatGPT facilita la vida de los delincuentes

Exponen que “desafortunadamente” no se están ejecutando con la planificación y gestión requeridas, pese a que en los últimos meses los laboratorios de inteligencia artificial entraron en “una carrera fuera de control para desarrollar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de forma fiable”.

Además, recuerdan que dichos sistemas son una competencia para los seres humanos en tareas generales, por lo que es importante que los desarrolladores se preguntan si esto es conveniente.

“¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad? ¿Deberíamos automatizar todos los trabajos, incluidos los de cumplimiento? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, obsoletas y reemplazarnos? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización?”, cuestionan.

Sostienen también que las herramientas de IA solo deben desarrollarse cuando haya seguridad de que los efectos serán positivos y de que los riesgos podrán ser controlados. Trabajar en que sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales.

“Esta confianza debe estar bien justificada y aumentar con la magnitud de los efectos potenciales de un sistema. Deberían aprovechar esta pausa para desarrollar e implementar un conjunto de protocolos de seguridad compartidos para que sean rigurosamente auditados y supervisados por expertos externos independientes”, sugieren.

Además, reclaman que los protocolos de seguridad deben garantizar que todos los sistemas que operen sean seguros, aclarando que la solicitud no implica una pausa en el desarrollo de la IA en general, sino sobre los más potentes y de forma temporal.

“Simplemente un paso atrás de la carrera peligrosa hacia modelos de caja negra impredecibles cada vez más grandes con capacidades emergentes. Esta pausa debe ser pública y verificable e incluir a todos los actores claves. Si tal pausa no se puede promulgar rápidamente, los gobiernos deberían intervenir e instituir una moratoria”, añaden en la nota.

Lea también: ¿Cómo funciona la prueba gratis de ChatGPT en Paraguay?

La carta, a la cual se puede acceder ingresando a https://futureoflife.org/open-letter/pause-giant-ai-experiments/, ya fue firmada por más de 1.100 expertos de diversos sectores.

Este revuelo tecnológico se generó principalmente a causa de que la startup o empresa joven con gran potencial de crecimiento OpenAI desarrolló un sistema de conversación basado en la inteligencia artificial (IA) denominada ChatGPT.

Comprende un robot que está entrenado para mantener una conversación con un usuario humano que le hace preguntas. Asimismo, es capaz de admitir sus errores, cuestionar premisas incorrectas y rechazar solicitudes inapropiadas, de acuerdo con la página de su desarrollador.

En tanto, una controversia se generó en torno a la plataforma, debido a que especialistas señalan que no se puede determinar si las respuestas del chat son fiables o correctas, por lo que podrían convertirse en un recurso para fraudes y desinformación.

Además, sostienen que su capacidad para redactar textos muy realistas a gran velocidad lo hacen un aliado de ciberdelincuentes con pocos conocimientos técnicos al generar códigos en varios lenguajes de programación, según advirtió Europol.

Más contenido de esta sección
El presidente de Bolivia, Luis Arce, garantizó este sábado que las elecciones nacionales se realizarán el próximo 17 de agosto, y denunció los intentos de “desestabilización” de los seguidores del ex mandatario Evo Morales, quienes programaron protestas desde el próximo lunes para exigir la inscripción de su candidatura.
Un juez federal ordenó al Gobierno de Donald Trump que facilite el regreso de un hombre guatemalteco que fue recientemente expulsado a México, pese a que una corte en febrero le había otorgado protección humanitaria al considerar que su vida corría peligro fuera de EEUU.
La mujer de 39 años de nacionalidad alemana detenida el viernes como presunta autora del apuñalamiento múltiple que dejó 18 heridos en la estación central de tren de Hamburgo, en el norte de Alemania, ha vuelto por decisión judicial a una clínica psiquiátrica, según recogen los medios germanos este sábado.
El cardenal uruguayo Daniel Sturla dejó entrever que la primera visita del papa León XIV a Latinoamérica tendría lugar en Argentina, Uruguay y posiblemente Perú, según informó ACI Prensa.
Tras la suspensión del juicio por la muerte de Diego Armando Maradona, por acusaciones contra una de las juezas por su presunta vinculación con un documental sobre el proceso, una de las personas señaladas como realizadoras se presentó este sábado ante la Fiscalía como “amiga” de la magistrada y confesó la existencia de una película “amateur”.
La Justicia argentina analiza este viernes las pruebas recopiladas contra una de las magistradas del juicio por la muerte de Diego Armando Maradona, Julieta Makintach, acusada de parcialidad y de vinculaciones con la realización de un documental sobre el debate, lo que generó este martes la suspensión del debate por un plazo de una semana.