Promesas de privacidad en agentes de IA: OpenAI y Meta

La carrera por la privacidad en los agentes inteligentes

En la actualidad, las principales empresas de inteligencia artificial se esfuerzan por convencer a los usuarios de que compartan grandes cantidades de datos personales con sus nuevos asistentes virtuales. Para lograrlo, la estrategia de las compañías consiste en diferenciarse de la competencia asegurando que sus sistemas mantendrán la información a salvo de accesos no deseados. Durante el evento OpenAI DevDay, el consejero delegado Sam Altman presentó el nuevo agente de la compañía, llamado Dots, y afirmó ante el público que su objetivo es establecer un nuevo estándar de privacidad en el sector. En su presentación, los directivos de OpenAI criticaron veladamente a su principal competidor por la gestión de la seguridad.

Meses antes, Meta había lanzado su propio agente bajo el nombre de Muse, presentado como una alternativa más segura frente a su predecesor OpenClaw. Según indicó Mark Zuckerberg, el sistema fue construido desde cero enfocado en la privacidad y la seguridad, operando mediante máquinas virtuales aisladas que incluyen un navegador, CPU, memoria y almacenamiento. Nat Friedman, directivo de productos en Meta Superintelligence Labs, explicó en una publicación en la red social X que la meta era crear una herramienta segura y fácil de usar capaz de escalar a miles de millones de personas. Pese a estos argumentos, la plataforma de Meta enfrentó diversos cuestionamientos tras su lanzamiento, incluyendo el descubrimiento rápido de una vulnerabilidad de tipo cero y problemas que afectaron la confianza en el manejo de datos de los usuarios.

Estrategias comerciales y controles empresariales

Frente a los tropiezos de la competencia, los representantes de OpenAI insistieron en su enfoque hacia la seguridad durante la presentación de Dots. Alexander Embiricos, responsable de productos Codex en la compañía, señaló en el escenario que su prioridad es ofrecer el asistente más confiable y seguro. Asimismo, Sam Altman mostró distintas funciones para que los usuarios mantengan el control sobre sus agentes, como establecer límites en compras monetarias. Por su parte, Glen Coates, director de la plataforma de aplicaciones en OpenAI, destacó que su posición difiere de la de Meta al no contar inicialmente con una base masiva de usuarios que exponga el sistema a errores frecuentes a gran escala. Para atraer a clientes empresariales, OpenAI introdujo marcos de trabajo que permiten controles más estrictos y opciones de políticas sin retención de datos en sus servidores.

Por el contrario, el agente Muse de Meta ha recopilado datos de manera amplia y ha presentado situaciones en las que recopilaba mensajes o compartía información sin que el usuario anticipara el alcance de la herramienta, además de crear perfiles detallados de amigos y familiares. Aunque los responsables de Meta indicaron que planean introducir métodos para impedir criptográficamente que la propia empresa acceda a los datos dentro de las máquinas virtuales en el futuro, la compañía mantiene actualmente la capacidad de acceder a dicha información. Las empresas del sector continúan apostando por una combinación de utilidad, diseño accesible y promesas de privacidad para impulsar el uso masivo de estos asistentes.

Por qué importa

Este debate sobre la privacidad en los agentes de inteligencia artificial resulta crucial para entender cómo las grandes tecnológicas manejan la información personal en un contexto de creciente adopción de herramientas automatizadas. La relevancia de estas medidas afecta directamente a la confianza de los usuarios y de las empresas que evalúan integrar estos sistemas en sus operaciones diarias. Vigilar la evolución de las políticas de retención de datos, el cumplimiento de las promesas de seguridad y la respuesta de las compañías ante fallos técnicos permitirá anticipar los riesgos asociados al uso masivo de la inteligencia artificial conversacional.