ChatGPT pronto podría comenzar a decirnos cómo construir nuevas capas de biowapons, Cat, Shutterstock
Jugando con fuego: OpenAi admite que su futura IA podría ayudar a construir nuevas capas biológicas.
Preparándose, amigos: los cerebros detrás de ChatGPT acaban de hacer una confesión que es parte avance de la tecnologíaparte Pesadilla de ciencia ficción. Operai, la potencia de IA respaldada por Microsoft, ha admitido que sus próximos modelos de inteligencia artificial podrían Ayuda a crear nuevas capas biológicas. Sí, lo leíste bien. Los robots se están volviendo lo suficientemente inteligentes como para cocinar insectos asesinos para exterminar a los humanos.
En una publicación de blog tan informal que bien podría haber venido con palomitas de maíz, Operai reveló que está corriendo por delante con AI que podría revolucionar investigación biomédica – y también, potencialmente, el siguiente pandemia global.
«Sentimos el deber de caminar por la cuerda floja entre permitir el avance científico mientras mantenemos la barrera para la información dañina», escribió la compañía.
¿Traducción? Están inventando Frankensteins digitales y esperan que las puertas del laboratorio se mantengan.
AI: ¿Desde ayudar a los médicos a ayudar a los preparadores del día del juicio final?
El jefe de seguridad de Openai, Johannes Heidecke, le dijo a Axios que la compañía no cree que su tecnología actual puede inventar nuevos virus desde cero todavía -Pero advirtió que la próxima generación podría ayudar a los «actores altamente calificados» a replicar las bio-amenazas conocidas con una facilidad aterradora.
«Todavía no estamos en el mundo donde hay una creación novela y completamente desconocida de biothreats que no han existido antes», admitió Heidecke. «Estamos más preocupados por replicar cosas con las que los expertos ya están muy familiarizados».
En otras palabras, la IA aún no está inventando virus zombis, pero pronto podría convertirse en el asistente de laboratorio más útil del mundo para bioterroristas.
El plan en negrita de Openai
La compañía insiste en que su enfoque tiene que ver con la prevención. «No creemos que sea aceptable esperar y ver si ocurre un evento de amenaza biológica antes de decidir sobre un nivel suficiente de salvaguardas», dice la publicación del blog. Pero los críticos dicen que eso es exactamente lo que está sucediendo: construir ahora, preocuparse más tarde.
Para evitar que los bots se vuelvan pícaros, Heidecke dice que sus sistemas de seguridad deben ser casi perfectos.
«Esto no es algo en el que como el 99 por ciento o incluso uno de cada 100,000 rendimiento es suficiente», advirtió.
Suena tranquilizador … Hasta que recuerdes con qué frecuencia la tecnología se pone caprichosa.
Biodefence o biotrap?
Operai dice que sus modelos podrían usarse en Biodefence. Pero algunos expertos temen que estas herramientas «defensivas» puedan caer en las manos equivocadas, o ser utilizadas ofensivamente por las correctas. Imagine lo que una agencia gubernamental con un historial turbio podría hacer con AI que sabe cómo ajustar los patógenos.
Y si la historia nos ha enseñado algo, es que el camino al infierno está pavimentado con buenas intenciones científicas.
¿Chatbot de Doom? Cómo una IA casi ayudó a construir una biowapon en 2023
Según lo informado por Bloomberga fines de 2023, un ex inspector de armas de la ONU entró en un edificio seguro de la casa blanca adyacente que llevaba una pequeña caja negra. No, esta no fue una película de espías. Era Washington, y lo que había dentro de esa caja dejaba a los funcionarios sorprendidos.
La caja contenía el ADN sintético, del tipo que, ensamblado correctamente, podría imitar los componentes de una capa biológica mortal. Pero no fue el contenido lo que sacudió a la gente. Así fue como se habían elegido los ingredientes.
El inspector, que trabaja con la firma de seguridad de IA Anthrope, había usado su chatbot, Claude, para jugar a un bioterrorista. La IA no solo sugirió qué patógenos sintetizar, sino cómo implementarlos para obtener un daño máximo. Incluso ofreció sugerencias sobre dónde comprar El ADN, y cómo evitar ser atrapado haciéndolo.
AI Chatbots y la amenaza de biowapon
El equipo pasó más de 150 horas investigando las respuestas del bot. Los hallazgos? No solo respondió preguntas, de lluvia de ideas. Y eso, dicen los expertos, es lo que hace que los chatbots modernos sean más peligrosos que los motores de búsqueda. Son creativos.
«La IA ofreció ideas que ni siquiera habían pensado preguntar», dijo Bloomberg El periodista Riley Griffin, quien rompió la historia.
El gobierno de los Estados Unidos respondió semanas después con una orden ejecutiva que exigía una supervisión más estricta de la IA y la ciencia financiada por el gobierno. Kamala Harris advirtió sobre las «Biowapons formuladas por AI» capaz de poner en peligro a millones.
¿Debería regular la IA como un biohazard?
A medida que los reguladores se apresuran a ponerse al día, los científicos instan a la precaución. Más de 170 investigadores firmaron una carta que prometía usar AI de manera responsable, argumentando que su potencial para los avances médicos supera los riesgos.
Aún así, los hallazgos de Casagrande provocaron una verdadera preocupación: AI no necesita un laboratorio para hacer daño, solo una computadora portátil y una mente curiosa.
«El verdadero miedo no es solo AI», dijo Griffin. «Es lo que sucede cuando la IA y la biología sintética chocan».
El punto ciego de la bioseguridad de nadie está hablando
Empresas más pequeñas que manejaban datos biológicos confidenciales no eran parte de esas sesiones informativas gubernamentales. Eso, advierten los expertos, deja un punto ciego peligroso.
Anthrope dice que ha parcheado las vulnerabilidades. Pero el momento de la caja negra fue una llamada de atención: estamos entrando en una época en la que los chatbots no solo nos ayudarán a curar la enfermedad, sino que podrían enseñarnos cómo propagarla.
No es un escenario del día del juicio final todavía. Pero definitivamente un nuevo tipo de carrera armamentista.
Esto no es solo un riesgo teórico. Si modelos como GPT-5 o más allá terminan en las manos equivocadas, podríamos estar mirando una caja digital de Pandora: acceso instantáneo a instrucciones paso a paso para sintetizar virus, alterar el ADN o evitar la seguridad de laboratorio.
«Esas barreras no son absolutas», admite Openai. Que, francamente, es el equivalente tecnológico de decir, «La puerta está cerrada, a menos que alguien la abra».
El veredicto: ¿Tecnología más inteligente, Future más aterrador?
Operai quiere salvar vidas con la ciencia. Pero también está avanzando hacia un futuro en el que cualquiera con una computadora portátil y un rencor pudiera interpretar a Dios. ¿Es esta innovación, o un desastre de cámara lenta en progreso?
Por ahora, nos quedamos con una pregunta ardiente: Si su IA podría ayudar a alguien a hacer una capacidad biológica, ¿debería realmente estar construyéndola?
Obtener más noticias tecnológicas.
Más Noticias de EE. UU..