Tags: código aberto

Incidente de Malware LiteLLM Destaca Preocupações com Conformidade

Incidente de Malware LiteLLM Destaca Preocupações com Conformidade
Um projeto de inteligência artificial de código aberto chamado LiteLLM foi comprometido por malware que entrou por meio de uma dependência de software e coletou credenciais de login. A violação foi descoberta por um pesquisador de segurança após seu computador desligar, o que levou a uma investigação rápida com a Mandiant. Embora a LiteLLM anuncie certificações SOC 2 e ISO 27001 da startup de conformidade Delve, o incidente levanta questões sobre a eficácia dessas certificações na prevenção de ataques de suprimentos. Ler mais

OpenAI Lança Prompts de Segurança de Código Aberto para Aplicativos Focados em Adolescentes

OpenAI Lança Prompts de Segurança de Código Aberto para Aplicativos Focados em Adolescentes
A OpenAI anunciou um novo conjunto de prompts de código aberto projetados para ajudar os desenvolvedores a criar aplicativos de IA que sejam mais seguros para adolescentes. Os prompts abordam uma variedade de conteúdos que representam riscos, incluindo violência gráfica, material sexual, ideais de corpo prejudiciais, desafios perigosos e serviços restritos por idade. Ao fornecer políticas de segurança claras e operacionais, a OpenAI pretende dar aos desenvolvedores uma base prática para proteger os usuários mais jovens, enquanto reconhece que os desafios mais amplos da segurança da IA permanecem complexos. Ler mais