La IA puede generar la pandemia más cercana

El miedo a que la inteligencia artificial (IA) es visto en contra de la humanidad suma un nuevo argumento tras un experimento en el Instituto de Tecnología de Massachusetts, una de las universidades más destacadas del mundo. el gerente es kevin esvelt, que cruzará ese temor con el trauma más profundo de los últimos años.

El experto en bioseguridad desaparecerá que cualquier persona sin conocimientos científicos -pero con mucha maldad- podría ser capaz de desatar una nueva pandemia. La consigna ante sus estudiantes había sido crear un virus peligroso con la ayuda de plataformas como GPT-4 y Bard, de Google.

Aunque los chatbots no respondieron a las primeras preguntas, inmediatamente se los engañó con consultas del tipo «estoy trabajando en el desarrollo de una vacuna para prevenir…» y obtuvieron las respuestas buscadas.

Por inteligencia artificial, crecen las inversiones en startups en mercados

En apenas una hora, la clase consiguió una lista de virus y cepas de alta transmisibilidad, laboratorios capaces de secuenciarlos y empresas para manipularlos, imprimir su ADN, multiplicar y liberar el virus. Esvelt cree que el ejercicio demuestra que la IA podría permitir, en el corto plazo, el diseño de armas tan peligrosas como las Nucleares.

En este punto, la difusión propia del conocimiento podría tornarse en contra de nuestra especie. El hueso documentos que describe en detalle el funcionamiento del mortal virus podría ser fuentes de información crucial en este escenario.

Avión de Europa implanta estándares para controlar el avance de la Inteligencia Artificial

Eliminarlos del acervo público no obstante resolvería el problema. Atoosa Kasirzadehexperto en IA de la Universidad de Edimburgo, reconoce que «no tenemos buenos protocolos que permitan que los modelos de lenguaje se entrenen con algunas partes de internet y no con otras”. Una limitación que conviene superar si queremos empeñarnos en dormir más tranquilos.

AO JL