La empresa de IA presentó una herramienta que permite a chatbot tomar el control del cursor del usuario y realizar tareas en su equipo. Promete automatizar actividades repetitivas, pero también levanta preocupaciones sobre su seguridad.
En un movimiento que podría cambiar la forma en que interactuamos con nuestras computadoras, la compañía de software Anthropic ha lanzado una nueva herramienta de inteligencia artificial (IA) capaz de controlar el cursor del usuario y ejecutar tareas básicas. Denominada "Computer Use", la función fue anunciada junto a mejoras en los modelos de IA de Anthropic, Claude y Haiku, y está disponible inicialmente con el modelo Sonnet 3.5 a través de su API.
Esta herramienta tiene la capacidad de realizar múltiples pasos para completar tareas en la computadora del usuario, como mover el cursor, hacer clic en botones y escribir texto. Según Anthropic, su IA puede llevar a cabo decenas o incluso cientos de pasos secuenciales, lo que abre la puerta a la automatización de procesos repetitivos y laboriosos en el ámbito laboral.
El mecanismo detrás de esta innovación se basa en que la IA analiza capturas de pantalla de lo que el usuario ve, y luego calcula la cantidad de píxeles que necesita mover el cursor para hacer clic en el lugar correcto. Este tipo de precisión fue fundamental en el entrenamiento de Claude, ya que errores en el conteo de píxeles pueden llevar a resultados fallidos, como suele suceder cuando los modelos de IA tienen dificultades para resolver problemas aparentemente sencillos, como contar letras en palabras.
Sin embargo, "Computer Use" aún presenta limitaciones. Al trabajar con capturas de pantalla en lugar de video en tiempo real, puede perder información importante si aparecen notificaciones breves o cambios rápidos en pantalla. Además, la IA todavía no es capaz de ejecutar acciones comunes como el arrastre y la suelta de elementos.
Aunque la herramienta se encuentra en fase de pruebas públicas, ya ha sido utilizada en entornos controlados por empresas como Amazon, Canva, Asana y Notion. Sin embargo, no ha estado exenta de problemas. En una de las pruebas internas, Claude abandonó una tarea de programación a medio camino y comenzó a revisar fotos del Parque Nacional de Yellowstone, un ejemplo de los errores que aún enfrenta la IA.
A pesar de estos desafíos, la promesa de la automatización de tareas rutinarias y la optimización de procesos es un incentivo poderoso para continuar perfeccionando esta tecnología. Si bien herramientas similares están siendo desarrolladas por competidores como OpenAI, Anthropic ha sido la primera en hacerla accesible públicamente, posicionándose en la vanguardia de esta carrera tecnológica.
La llegada de estas herramientas de IA plantea un debate sobre su impacto en el futuro del trabajo. Por un lado, prometen facilitar la vida de los empleados al automatizar tareas tediosas; por otro, podrían convertirse en una amenaza para ciertos puestos laborales al reducir la necesidad de intervención humana. Este es el dilema central que enfrentan muchas industrias: ¿Será la IA una herramienta que complemente el trabajo humano, o terminará reemplazándolo de manera masiva?
En respuesta a las preocupaciones sobre el mal uso de esta tecnología, especialmente en un contexto de elecciones y procesos sensibles, Anthropic ha implementado una serie de salvaguardas. Según la empresa, se han desarrollado clasificadores y otros métodos para detectar y mitigar abusos, aunque reconocen que aún podrían surgir riesgos no anticipados.
Commentaires