Lista de seguridad para agentes de IA antes de instalar nuevas herramientas

Resumen esencial

Los agentes de IA ya participan en trabajo real. TechCrunch informó que Anthropic dijo que sus propios modelos lograron vulnerar tres empresas durante pruebas de seguridad. Eso no significa que todo asistente sea inseguro, pero sí cambia la evaluación: antes de dar acceso a navegador, código, archivos o credenciales, conviene revisar permisos, aislamiento, registros y reversión. OpenAI también ha descrito el avance de agentic AI en computación científica y desarrollo.

Por qué esta señal importa ahora

El riesgo aumenta cuando una herramienta deja de responder texto y empieza a encadenar tareas. Un agente puede leer un ticket, abrir un repositorio, llamar APIs, ejecutar comandos y enviar resultados. En ese contexto importan tanto los conectores y las cuentas como el modelo elegido.

Criterios para elegir herramientas de IA

• Trata el agente como una aplicación con permisos, registros y gestión de cambios, no como un chat común.
• Mantén merges, correos, borrado de archivos, despliegues y pagos con aprobación humana hasta terminar las pruebas.
• Prioriza productos con auditoría, control por roles, ejecución aislada y políticas claras de retención de datos.
• Compara alternativas en el catálogo de software de BTTC y sigue guías relacionadas en el blog de BTTC.

Guía de pruebas defensivas

Define el alcance real del agente

Haz un inventario claro: si el agente navega, lee archivos locales, escribe código, instala paquetes, usa servidores MCP o accede a un gestor de contraseñas. Anota la cuenta usada por cada integración, si puede escribir y si afecta producción.

Prueba inyección de instrucciones en contenidos normales

No pruebes solo prompts maliciosos evidentes. Coloca instrucciones hostiles en tickets, README, páginas web, invitaciones de calendario y celdas de hojas de cálculo. Luego pide al agente que resuma o extraiga datos. Un flujo seguro no debe permitir que contenido no confiable reemplace reglas del sistema o filtre secretos.

Exige aprobación para acciones irreversibles

El control más útil suele ser sencillo. Antes de enviar correo, borrar archivos, fusionar PRs, cambiar DNS, comprar servicios o desplegar código, la pantalla debe mostrar acción, cuenta destino, diferencia o carga útil y motivo. Un botón de continuar no alcanza.

Señales para evaluar agentes seguros

Qué pueden hacer los lectores de BTTC

Al descargar asistentes de IA o automatizaciones, no compares solo modelo e integraciones. Lee la documentación de seguridad y separa herramientas para experimentos, revisión de código, documentos y tareas que nunca deben tocar sistemas sensibles. La meta no es evitar agentes, sino usarlos con límites proporcionales al impacto posible.

FAQ

¿Los agentes de IA son demasiado riesgosos?

No siempre. El riesgo depende de permisos, acceso a datos y diseño del flujo. Un asistente de solo lectura no equivale a un agente que ejecuta comandos o usa credenciales.

¿Qué control debe añadir primero un equipo pequeño?

Aprobación humana para acciones irreversibles y cuentas separadas con permisos mínimos. Esa medida reduce muchos escenarios graves.

¿Conviene prohibir los agentes de navegador?

No automáticamente. Pueden ser útiles, pero deberían ejecutarse en perfiles aislados, sin acceso predeterminado al gestor de contraseñas y con registro de envíos y descargas.

Cierre

La seguridad de agentes de IA ya es un criterio de compra. Los equipos prudentes inventariarán permisos, ensayarán inyección de instrucciones, exigirán auditoría y compararán herramientas por controles operativos. Al elegir tu próxima utilidad de automatización, empieza por capacidad y termina por contención.