Cuando lees una reseña de un producto en Amazon, navegas por la sección de comentarios de un artículo en CNN o te molesta un tuit provocativo, ¿puedes estar seguro de que la persona detrás de la pantalla es un ser humano vivo y respirando?
Absolutamente no.
Un informe reciente de Imperva reveló que los bots constituyen el 47% de todo el tráfico en internet, siendo los "bots maliciosos" un 30%. Estas estadísticas impresionantes amenazan la integridad sobre la cual se ha construido la web abierta.
Sin embargo, incluso cuando un usuario es humano, hay una buena posibilidad de que su cuenta esté operando bajo una identidad falsa, lo que significa que los "usuarios falsos" son tan prevalentes en línea como los auténticos.
No somos ajenos al riesgo existencial de las campañas de bots aquí en Israel. Después del 7 de octubre, campañas masivas de desinformación, orquestadas por bots y cuentas falsas, manipularon la opinión pública y a los responsables de políticas.
Monitoreando la actividad en línea durante la guerra, The New York Times descubrió que "en un solo día después de que comenzara el conflicto, aproximadamente 1 de cada 4 cuentas de Facebook, Instagram, TikTok y X, antes conocido como Twitter, que publicaban sobre el conflicto parecían ser falsas... En 24 horas después de la explosión en el hospital Al-Ahli Arab, más de 1 de cada 3 cuentas que publicaban al respecto en X eran falsas."
Con 82 países que celebrarán elecciones en 2024, el riesgo de bots y usuarios falsos está alcanzando niveles de crisis. Justo la semana pasada, OpenAI tuvo que desactivar una cuenta perteneciente a un grupo iraní que utilizaba su bot ChatGPT para generar contenido destinado a influir en las elecciones de Estados Unidos.
Influencia electoral y el impacto generalizado de los bots
Mientras Ruanda se preparaba para sus elecciones de julio, investigadores de la Universidad de Clemson descubrieron 460 cuentas difundiendo mensajes generados por inteligencia artificial en X en apoyo al presidente en funciones, Paul Kagame. Y solo en los últimos seis meses, el Laboratorio de Investigación Forense Digital del Consejo del Atlántico (DFRLab) ha identificado campañas de influencia dirigidas a los manifestantes georgianos y difundiendo confusión sobre la muerte de un economista egipcio, ambas impulsadas por cuentas falsas en X.
Los robots y usuarios falsos tienen una consecuencia perjudicial en la seguridad nacional, pero las empresas en línea también están pagando un precio alto.
Imagina un negocio donde el 30-40% de todo el tráfico digital es generado por bots o usuarios falsos. Este escenario crea una cascada de problemas, incluyendo datos distorsionados que llevan a decisiones equivocadas, comprensión limitada de los embudos de clientes y análisis de sitios web, equipos de ventas siguiendo pistas falsas y desarrolladores enfocándose en productos con una demanda ilusoria.
Las implicaciones son enormes. Un estudio de CHEQ.ai, una empresa del portafolio de Key1 y plataforma de seguridad en el mercado, reveló que solo en 2022, se desperdiciaron más de $35 mil millones en publicidad y se perdieron más de $140 mil millones en ingresos potenciales.
EN DEFINITIVA, los usuarios falsos y los bots socavan los cimientos en los que se basa el negocio moderno, creando desconfianza en los datos, resultados y, en algunos casos, entre los equipos.
La introducción de la Generación IA en la mezcla solo ha añadido combustible al fuego de la web falsa. La tecnología "democratiza" la capacidad de crear bots e identidades falsas, reduce las barreras de ataque, aumenta su sofisticación y amplía significativamente su alcance.
El alcance de este creciente problema no puede ser exagerado. Pero, ¿qué se puede hacer, si es que algo, para minimizar el tremendo daño económico, geopolítico y social?
Es hora de una respuesta global para recuperar el control y reconstruir nuestra confianza en internet.
La educación es crucial para combatir la epidemia de la falsedad en línea. Al aumentar la conciencia sobre las tácticas de los bots y las cuentas falsas, podemos capacitar a la sociedad para reconocer y mitigar su impacto. Comprender las señales reveladoras de usuarios no auténticos, como perfiles incompletos, información genérica, frases repetitivas, niveles de actividad anormalmente altos, contenido superficial y compromiso limitado, es un primer paso vital. Sin embargo, a medida que los bots se vuelven cada vez más sofisticados, este desafío solo se volverá más complejo, resaltando la necesidad de una educación continua y vigilancia.
Además, las políticas públicas y regulaciones deben entrar en vigor para restaurar la confianza en los entornos digitales. Por ejemplo, los gobiernos pueden y deben exigir a las grandes redes sociales implementar herramientas de mitigación de bots de primera categoría para ayudar a controlar las cuentas falsas.
Lograr el equilibrio adecuado entre la libertad de estas redes, la integridad de la información publicada y el daño potencial causado no es una tarea fácil de lograr. Sin embargo, establecer estos límites es una necesidad para preservar la longevidad de estas redes.
En el ámbito empresarial, se han desarrollado diversas herramientas para mitigar y bloquear el tráfico inválido. Estas van desde soluciones básicas de mitigación de bots que previenen ataques de denegación de servicio distribuido hasta software especializado que protege las API de intentos de robo de datos impulsados por bots.
Las soluciones más avanzadas de mitigación de bots emplean algoritmos sofisticados que realizan pruebas en tiempo real para garantizar la integridad del tráfico. Estas pruebas analizan el comportamiento de la cuenta, los niveles de interacción, las características del hardware y las herramientas de automatización. También detectan comportamientos no humanos, como una escritura anormalmente rápida, y examinan el historial de correo electrónico y dominio.
Si bien la inteligencia artificial ha contribuido al problema de los bots, también está demostrando ser una herramienta poderosa para combatirlo. Las capacidades mejoradas de reconocimiento de patrones de la IA permiten una distinción más precisa y rápida entre bots legítimos e ilegítimos. Empresas como CHEQ.ai están aprovechando la IA para ayudar a los especialistas en marketing a garantizar que sus anuncios lleguen a usuarios humanos y se coloquen en entornos seguros y libres de bots, contrarrestando eficazmente la creciente amenaza de los bots en la publicidad digital.
Desde la seguridad nacional hasta la integridad empresarial, las consecuencias del "falso internet" son tan amplias como graves. Sin embargo, existen varios métodos efectivos para mitigar el problema, métodos que merecen un renovado enfoque público y privado. Al aumentar la conciencia, mejorar la regulación e instituir protección activa, todos podemos contribuir a un entorno de internet más preciso y mucho más seguro.
El escritor es cofundador y socio de Key1 Capital.