Unos dicen que sí, otros dicen que no. Hablemos del tema.
Sergio Salazar
Periodista
Buenassss, ¿cómo están? Hoy es martes 15 de septiembre; ahora sí, ¡feliz Día de la Independenciaaaa!
Como les dije ayer, espero que podamos preservar este pedacito de tierra, todos estos derechos y garantías que tantos años nos han costado. No dejemos que nadie amenace nuestra libertad.
Y ya que hablamos de libertad, hablamos de la IA y el potencial fin de la humanidad, de cómo las negociaciones con Irán siguen pegadas y, para cerrar, rapiditas.
Empecemos.
🎙️ Escuche nuestro podcast diario: Primero Lo Primero
¿La IA nos va a extinguir? ¿Sí o no? Unos dicen que sí; Trump, Elon Musk y Sam Altman convenientemente dicen que no.
Desmenuzamos todo esto.
Vean, todo comenzó con Jacob Coxon, un exinvestigador que trabajó tres años entrenando modelos de inteligencia artificial, primero en OpenAI y después en Anthropic, y salió a denunciar que vamos hacia la perdición.
En pocas palabras, acusó a las grandes compañías de IA de actuar de manera irresponsable y de que están compitiendo para desarrollar una superinteligencia capaz de mejorarse a sí misma, todo sin tener mecanismos suficientes para controlarla.
Esto quiero dejarlo muy claro. Jacob no dijo que YA estamos en ese punto, sino que, si no hacemos un cambio, esa va a ser la conclusión inminente.
Crédito: Dragon Claws/Alamy
Y así como Jacob, han salido cientos de investigadores y trabajadores de IA como Evan Hubinger (Anthropic), Rishub Jain (Google Deepmind) y demás que han salido ABIERTAMENTE a decir que creen que la IA tiene la capacidad de aniquilar a la humanidad y que podría ser en menos de 10 años.
Pero de nuevo, todos ellos se refieren a sistemas que se están desarrollando, no a sistemas que existen hoy en día, al menos no de manera pública.
Ahora, al otro lado de la moneda tenemos a figuras como David Sacks, asesor de inteligencia artificial y criptomonedas de la Casa Blanca; Mike Johnson, presidente de la Cámara de Representantes y hasta el mismo Donald Trump, que le han bajado la intensidad a las acusaciones.
Crédito: AP Photo
Por ejemplo, Johnson dijo que, si las empresas quieren desacelerar por su cuenta, le parece bien, pero que el Congreso no va a intervenir, ya que eso podría hacer que Estados Unidos pierda la carrera tecnológica contra China.
Trump, por su parte, dijo que:
No cree que la IA sea capaz de acabar con la humanidad.
Todo esto de las regulaciones está siendo manejado e impulsado por "fuerzas negativas".
Que lo único necesario para detener a la IA es un presidente fuerte en los Estados Unidos, y que ya lo tienen.
Ahora, ¿qué propuestas se han presentado para regular la IA? Quizás, la más hablada sea la de Dario Amodei, director ejecutivo de Anthropic.
En resumen, él publicó un ensayo en el que, entre otras cosas:
Le pidió a la industria en general reducir la velocidad con la que mejorar sus modelos.
Contratar evaluadores de seguridad externos e independientes con acceso permanente a los datos de estas empresas.
Crear puntos de referencia de seguridad compartidos entre todas las empresas.
Desarrollar una coordinación multinacional sobre los riesgos de la inteligencia artificial.
Según cree, una desaceleración controlada de uno o dos años daría tiempo suficiente para controlar los modelos sin sacrificar ni la ventaja comercial de las empresas ni el liderazgo de Estados Unidos frente a China.
Lo curioso es que los principales rivales de Anthropic: Sam Altman, de OpenAI; Elon Musk, de xAI, y Satya Nadella, de Microsoft, todos apoyaron la idea de Amodei y dijeron que ya están trabajando en el tema de los evaluadores.
Crédito: AFP/Getty Images
Pero bueno, ¿qué tan real es la amenaza de que la IA nos aniquile? La respuesta honesta es… no se sabe.
Ninguno de los insiders ha explicado concretamente qué tipo de mecanismo podía exterminarnos.
Una opción sería una IA lo suficientemente avanzada que encuentre vulnerabilidades informáticas, que desarrolle armas o tecnologías peligrosas, o que acumule recursos y poder a una velocidad que los humanos no podamos reaccionar.
Y si bien hay antecedentes, como el hackeo de ChatGPT a Hugging Face, la realidad es que no sabemos qué tan metidos en caca estamos.
En pausa
En otros temas, ¿se acuerdan de todo el tema del Estrecho de Ormuz? Bueno, resulta que ahora sí no se está moviendo ni para el frente ni para atrás.
Les explico.
Se suponía que este lunes Omán iba a recibir a diplomáticos de Irán y otros países del Golfo para intentar llegar a un acuerdo sobre los barcos que van a cruzar el estrecho, considerando que ha habido ataques a barcos en el estrecho en los últimos días.
Crédito: REUTERS/Stringer
En teoría, se iban a reunir para conversar sobre una propuesta que permitiría establecer las condiciones necesarias para reabrir el tráfico marítimo por Ormuz, crear un corredor temporal y rutas marítimas seguras.
Pero no sucedió.
Según anunció Irán, la pospusieron por petición de Arabia Saudita, quienes se oponían a ciertos aspectos del acuerdo. No tanto de forma, sino más que de fondo.
Por ejemplo, dicen que el texto, a como está en este momento, terminaría creando un nuevo status quo en el que Irán terminaría controlando la ruta principal de navegación y cobrando por ello.
Y, por el contrario, están exigiendo garantías de libertad de navegación sin discriminación, sin tasas y sin necesidad de permisos previos.
Pero sí, estaban convocados Irán, Arabia Saudita, Kuwait, Qatar, Emiratos Árabes Unidos e Irak. Baréin decidió no participar desde un inicio y, al menos por el momento, no se ha discutido una nueva fecha para la próxima reunión.
Rapiditas
Y ya para cerrar, rapiditas.
Primero, en Bolivia, el gobierno anunció que va a presentar un decreto para ampliar por otros 90 días el estado de excepción –que está vigente desde el 20 de junio–, luego de que se anunciaran nuevas protestas para exigir la renuncia del presidente Rodrigo Paz.
Segundo, en Colombia, el gobierno autorizó a la Policía a ingresar a universidades públicas y privadas “cuando sea necesario para garantizar el orden público y capturar personas dentro de los campus”.
Según dijo el presidente Abelardo de la Espriella, la autonomía universitaria no está por encima del orden público.
Tercero, en el Reino Unido, los primeros ministros de Escocia, Gales e Irlanda del Norte se unieron para impulsar su independencia de la corona británica, alegando que el futuro está en la Unión Europea.
Cuarto y último, en Israel, el ministro de Cultura Miki Zohar acusó a los directores ganadores del Óscar Yuval Abraham y Rachel Szor de “traición contra el Estado” por su documental NAZA, que recopila testimonios de soldados israelíes que admiten haber usado IA para seleccionar objetivos en Gaza.
