Alerta de Europol sobre el uso de ChatGPT para «facilitar la actividad delictiva»

En furia media, ocasionalmente es ChatGPT 4, el Europol alertó de una «gama ampliada de casos de uso delictivo» con la herramienta de inteligencia artificial (IA). En este caso, las organizaciones advirtieron especialmente sobre fraude, suplantación de identidad, ingeniería social, misinformación y cibercrimenes. Al respecto, explica que el sistema de «actividades delictivas facilitadas»por lo que realizó «talleres de trabajo» para estudiar el «lado oscuro» de este tipo de IA.

«Los talleres en los que participaron expertos en la materia de toda la gama de uso de conocimientos de Europol identificaron una amplia gama de casos de delictivo en GPT-3.5. , detalle de la agencia policial de la Unión Europea. En esa línea, el informe realizado por Europol Discutir GPT. El impacto de los modelos de lenguaje extendido en la aplicación de la ley nótese que la evolución de estos sistemas «ofrece una perspectiva sombría» sobre posible explotación criminal.

Elon Musk y varios expertos en piden frenan los avances de la inteligencia artificial y ChatGPT 4

Respetuoso modo operatorio de los «potenciales criminales», el ente de seguridad explicó que ChatGPT «puede acelerar significativamente» el proceso de investigación sobre cualquier delito en particular allí que ofrece información que se puede explorar en pasos posteriores. «Como tal, ChatGPT se puede usar para obtener información sobre una gran cantidad de posibles áreas criminales sin conocimientoque van desde cómo entrar en una casa hasta terrorismo, ciberdelincuencia y abuso sexual”, afirmaron.

Y agregaron: «Si bien toda la información proporciona que ChatGPT está disponible de manera gratuita en Internet, la posibilidad de usuario el modelo para proporcionar pasos específicos a través de preguntas contextuales hace que sea ​​significativa pero fácil para los actores malintencionados para comprender mejor el tema y posteriormente cometer diversos tipos de litos».

Fraude, desinformación y ciberdelincuencia, las «áreas de preocupación» de los expertos de Europol

El organismo identificó «áreas de preocupación» sobre el uso malicioso de sistemas como ChatGPT: fraude e ingeniería social, desinformación y cibercrimen. Sin embargo, reconocemos que es posible que haya más usos delictivos que sean de interés debido a que no se ha realizado un análisis «exhaustivo». «Los casos de uso identificados que surgieron de los talleres Europol realizados con sus expertos sin cables en modo alguno exhaustivo. Más bien, el objetivo es dar una idea de cuántos diversos y potencialmente peligrosos pueden ser las herramientas como ChatGPT en manos de actores maliciosos», sostuvieron.

Dentro de la arista del fraude e ingenieria socialEuropol anunció que la capacidad de ChatGPT para escribir textos «más realistas» lo convierte en una herramienta útil para el Suplantación de identidad. En esta línea, explica que la capacidad de este sistema permite suplantar el estilo de vida con personas o grupos específicos, donde facilitará la realización de esta línea. «Antes era mas facil detectar las estafas de Suplantación de identidad básicos debido a errores gramaticales y ortografías obvias. Ahora es posible hacerse pasar por una organización o individuo de una manera altamente realista», sostuvieron en el informe

Y agregaron: «Con la ayuda de los modelos de lenguaje extenso, estos tipos de Suplantación de identidad y fraude en línea pueden ser creados mas rapidode manera más auténtica ya una escala significativamente mayor».

Sumado a esto, indicaron que las habilidades del programa pueden ser utilizadas para delitos como terrorismo, propaganda y desinformación gracias por poder recopilar información. «Como tal, el modelo se puede utilizar para compilar más información que pueda facilitar las actividades terroristas, como por ejemplo, el terrorismo financiero o el intercambio anónimo de archivos», manifestó.

En cuanto a la desinformación, Europol llamó a ChatGPT el “modelo ideal” para las multas propagandísticas y de noticias falsas. En esta línea, explica que los usuarios son capaces de generar y distribuir mensajes “reflejando una narrativa concreta con poco esfuerzo”. «Por ejemplo, ChatGPT se puede utilizar para la propaganda en línea general en una serie de otros actores para el promotor o el defensor de ciertos puntos de vista que han sido desacreditados como désinformación o noticias falsas», sostuvieron.

ChatGPT: de qué se trata la nueva Inteligencia Artificial de la que habla el mundo

Además de los mensajes genéricos que parecen provenir de humanos, también está la capacidad de ChatGPT que provocó alarmas en Europol y la posibilidad de crear códigos en diferentes lenguajes de programación en sus minutos en solitario. Según la organización, esto tendrá un «impacto significativo» en el ciberdelincuente debido a que le permite a alguien sin conocimiento técnico atacar al sistema de una persona. En este sentido, advirtieron que ya se obtuvo el sistema para crear malware poco después de su lanzamiento. «Para un delincuente potencial con pocos conocimientos técnicos, este es un recurso invaluable para producir un código malicioso«, manifestar.

«Una medida que hace avanzar la tecnología y dispone de nuevos modelos, será cada vez más importante que las fuerzas del orden público se mantendrán a la vanguardia de estos desarrollos para anticipar y prevenir el abuso, así como para garantizar que se puedan aprovechar los beneficios potenciales”, concluyó el informe.

MB/ds