Mike Cannon-Brooks: La responsabilidad de usar agentes de IA recae en los usuarios

El cofundador de Atlassian, Mike Cannon-Brookes, enfatiza la importancia de la responsabilidad al usar agentes de IA en el lugar de trabajo. "Este es ChatGPT en nombre de Mike. Este es Mike usando ChatGPT. No es ChatGPT haciéndolo", dijo Cannon-Brookes en una entrevista al margen del Gran Premio de Singapur. La responsabilidad, dice, debe recaer en el usuario final: "La responsabilidad recae en Mike. En última instancia, debe recaer en el usuario final".

El 6 de octubre, Atlassian lanzó el "Protocolo de Agente Multijugador" – una capa de gestión que hace que los agentes de IA sean miembros visibles y manejables de los equipos de trabajo con perfiles individuales y designación de propietario. Las ediciones de los agentes deben reflejarse en el historial de documentos al igual que las ediciones de un colega. "Deberías ver quién hizo qué y cuándo", dijo Cannon-Brookes, agregando que el programa no debería afirmar que Codex hizo la edición: "No, un humano hizo eso".

Los agentes de IA personales están emergiendo en el mercado – Muse de Meta y Dots de OpenAI. Según Cannon-Brookes, tales productos "toman el sistema de agentes y hacen que la interacción sea invisible", realizando operaciones complejas detrás de escena, incluso si la tarea del usuario es simple. En un entorno de consumo, esto es aceptable, pero no en el trabajo: "En un entorno laboral, hay muchas discusiones sobre permisos, seguridad y cumplimiento." Un empleado que crea contenido basado en información privilegiada puede crear rápidamente un problema. El ejemplo de Cannon-Brookes: un empleado construye un diagrama visual a partir de documentos internos – "necesitas tener mucho cuidado si envías esto a alguien que ve los mismos documentos: no quieres una fuga."

Peor aún, la mayoría de las interfaces de IA son difíciles de entender. "La IA puede hacer cosas increíbles, increíblemente poderosas. La mayoría de las personas hacen cosas muy simples debido a la interfaz," dijo Cannon-Brookes. "La experiencia es muy pobre." Hizo una analogía con un procesador de texto: "Si piensas en Microsoft Word con una barra de herramientas – aprendes a usar negritas e itálicas. Si todo eso desapareciera y solo quedaran los atajos de teclado, los documentos de todos se verían como texto plano."

En 2024, Atlassian lanzó Rovo – un asistente de IA interno que conecta personas, proyectos, código y conocimiento de la empresa. "Tuvimos que inventar muchos nuevos patrones de diseño fundamentales que se sienten familiares," dijo Cannon-Brookes, señalando características que permiten vincular cuentas de Atlassian con Figma, Codex, Claude y otras herramientas y cambiar entre ellas.