Etiquetas: herramientas para desarrolladores

Anthropic Introduce Modo Auto Seguro para Claude Code

Anthropic Introduce Modo Auto Seguro para Claude Code
Anthropic ha lanzado un modo auto para su herramienta Claude Code, que permite que la inteligencia artificial actúe en nombre de los usuarios mientras reduce el riesgo de acciones no deseadas. La función detecta y bloquea operaciones potencialmente riesgosas, lo que hace que el modelo intente nuevamente o solicite la intervención del usuario. Actualmente disponible como una vista previa de investigación para usuarios del plan de Equipo, Anthropic planea ampliar el acceso a los usuarios de Empresa y API en los próximos días. La empresa enfatiza que la herramienta sigue siendo experimental y recomienda su uso en entornos aislados. Leer más

OpenAI Lanza Prompts de Seguridad de Código Abierto para Aplicaciones Orientadas a Adolescentes

OpenAI Lanza Prompts de Seguridad de Código Abierto para Aplicaciones Orientadas a Adolescentes
OpenAI anunció un nuevo conjunto de prompts de código abierto diseñados para ayudar a los desarrolladores a crear aplicaciones de inteligencia artificial que sean más seguras para los adolescentes. Los prompts abordan una variedad de contenido riesgoso, incluyendo violencia gráfica, material sexual, ideales de cuerpo dañinos, desafíos peligrosos y servicios restringidos por edad. Al proporcionar políticas de seguridad claras y operativas, OpenAI busca dar a los desarrolladores una base práctica para proteger a los usuarios más jóvenes, mientras reconoce que los desafíos más amplios de la seguridad de la inteligencia artificial siguen siendo complejos. Leer más