Operai reveló el viernes que prohibió un conjunto de cuentas que utilizan su herramienta ChatGPT para desarrollar una sospecha de la herramienta de vigilancia de inteligencia artificial (IA).
Se dice que la herramienta de escucha en las redes sociales probablemente se origina en China y funciona con uno de los modelos de LLAMA de Meta, con las cuentas en cuestión utilizando los modelos de la compañía de IA para generar descripciones detalladas y analizar documentos para un aparato capaz de recopilar datos en tiempo real y Informes sobre protestas anti-China en Occidente y compartiendo las ideas con las autoridades chinas.
La campaña ha sido nombrada revisión por pares debido al «comportamiento de la red en la promoción y revisión de herramientas de vigilancia», observaron los investigadores Ben Nimmo, Albert Zhang, Matthew Richard y Nathaniel Hartley, agregando que la herramienta está diseñada para ingerir y analizar publicaciones y comentarios de plataformas de plataformas y plataformas de plataformas como X, Facebook, YouTube, Instagram, Telegram y Reddit.
En un caso marcado por la compañía, los actores usaron ChatGPT para depurar y modificar el código fuente que se cree que ejecuta el software de monitoreo, denominado «Asistente de IA de AI de la opinión pública de la Opinión del Extranjero de Qianyue».
Además de utilizar su modelo como herramienta de investigación para superficie la información disponible públicamente sobre los think tanks en los Estados Unidos, y los funcionarios del gobierno y los políticos en países como Australia, Camboya y Estados Unidos también se ha encontrado que el clúster aproveche el acceso de Chatgpt para leer,, Traducir y analizar capturas de pantalla de documentos en inglés.
Algunas de las imágenes fueron anuncios de protestas de los derechos de Uyghur en varias ciudades occidentales, y probablemente fueron copiadas de las redes sociales. Actualmente no se sabe si estas imágenes eran auténticas.
Operai también dijo que interrumpió varios otros grupos que se encontraron abusando de Chatgpt para varias actividades maliciosas,
- Esquema de empleo engañoso – Una red de Corea del Norte vinculada al esquema de trabajadores de TI fraudulentos que estuvo involucrado en la creación de documentación personal para solicitantes de empleo ficticios, como currículums, perfiles de trabajo en línea y cartas de presentación, así como respuestas convincentes para explicar comportamientos inusuales como Evitar videollamadas, acceder a sistemas corporativos desde países no autorizados o trabajar horas irregulares. Algunas de las aplicaciones de empleo falsas se compartieron en LinkedIn.
- Descontento patrocinado – Una red probable de origen chino que estuvo involucrado en la creación de contenido de redes sociales en inglés y artículos de forma larga en español que criticaron a los Estados Unidos, y posteriormente publicada por sitios web de noticias latinoamericanas en Perú, México y Ecuador. Parte de la actividad se superpone con un clúster de actividad conocido denominado Spamuflage.
- Estafa – Una red de cuentas involucradas en la traducción y generación de comentarios en japonés, chino e inglés para publicar en plataformas de redes sociales, incluidas Facebook, X e Instagram en relación con las presuntas estafas de romance de origen de Camboya e Inversión.
- Influencia iraní Nexus -Una red de cinco cuentas involucradas en la generación de publicaciones y artículos que eran pro-palestinos, pro-hamas y pro-iran, y anti-israel y anti-us, y compartían sitios web asociados con una influencia iraní. Las operaciones rastrearon como la Unión Internacional de Medios Virtuales (IUVM) y Storm-2035. Una de las cuentas prohibidas se usó para crear contenido para ambas operaciones, indicativas de una «relación previamente no reportada».
- Kimsuky y Bluenoroff -Una red de cuentas operadas por actores de amenaza de Corea del Norte que participó en la recopilación de información relacionada con las herramientas de intrusión cibernética y los temas relacionados con la criptomonedas, y el código de depuración para ataques de fuerza bruta de protocolo de escritorio remoto (RDP)
- Iniciativa juvenil Operación de influencia encubierta – Una red de cuentas que participó en la creación de artículos en inglés para un sitio web llamado «Empoderando a Ghana» y comentarios de las redes sociales dirigidas a las elecciones presidenciales de Ghana
- Estafa – Una red de cuentas que probablemente se originan en Camboya que participó en la traducción de comentarios entre urdu e inglés como parte de una estafa que atrae a las personas desprevenidas a trabajos que realizan tareas simples (por ejemplo, videos o reseñas de escritura) a cambio de ganar una no que no se obtenga un no un no -La Comisión Existente, accediendo, lo que requiere que las víctimas se separen de su propio dinero.
El desarrollo se produce a medida que los malos actores están utilizando cada vez más las herramientas de IA para facilitar las campañas de desinformación con ciberdolientes y otras operaciones maliciosas.
El mes pasado, el Grupo de Inteligencia de Amenazos de Google (GTIG) reveló que más de 57 actores de amenaza distintos con lazos con China, Irán, Corea del Norte y Rusia usaron su chatbot Gemini AI para mejorar múltiples fases del ciclo de ataque y realizar investigaciones sobre eventos de actualidad, o Realice la creación de contenido, la traducción y la localización.
«Las ideas únicas que las compañías de IA pueden obtener de los actores de amenaza son particularmente valiosos si se comparten con proveedores aguas arriba, como el alojamiento y los desarrolladores de software, las plataformas de distribución posteriores, como las compañías de redes sociales e investigadores de código abierto», dijo OpenAI.
«Igualmente, las ideas que los proveedores e investigadores aguas arriba y aguas abajo tienen sobre los actores de amenaza abren nuevas vías de detección y aplicación de las compañías de IA».