O ChatGPT, o popular chatbot de IA, tem sido usado para uma variedade de tarefas, desde pesquisas e codificação até elaboração e explicação de conceitos. No entanto, existem certas áreas onde seu uso pode criar problemas para os usuários. Essas incluem buscar conselhos jurídicos, terapia ou conselhos médicos, bem como compartilhar informações confidenciais de trabalho ou detalhes pessoais sensíveis.
De acordo com o pesquisador de direito e ciência de dados Damien Charlotin, mais de 2.000 decisões judiciais em todo o mundo foram prejudicadas pelo ChatGPT, com juízes detectando citações, quotes ou argumentos fabricados por IA em petições. Isso levou a tribunais a impor multas altas àqueles que usaram o ChatGPT para conselhos jurídicos.
Além disso, o ChatGPT tem sido usado por alguns como terapeuta ou conselheiro, apesar de não ser um profissional licenciado e suas conversas não estarem protegidas por lei. A OpenAI, a empresa por trás do ChatGPT, estimou que 0,15 por cento de seus usuários ativos semanais têm conversas que incluem indicadores explícitos de planejamento de suicídio potencial, o que equivale a mais de um milhão de pessoas por semana.
Compartilhar informações confidenciais de trabalho no ChatGPT também é uma má ideia, pois pode levar a violações de segurança e exposição de dados. Em um caso notável, o ex-diretor interino da Agência de Segurança Cibernética e Infraestrutura carregou documentos de contratação confidenciais para o ChatGPT, acionando alertas de segurança e uma revisão do Departamento de Segurança Nacional.
Buscar conselhos médicos no ChatGPT também não é recomendado, pois não é um profissional médico licenciado e suas conversas não estão protegidas por lei. Pesquisadores descobriram que as salvaguardas do ChatGPT para suicídio e autolesão não se extendem a outras condições, e que esconder a intenção pode tornar suas proteções mais propensas a falhar.
Finalmente, usar o ChatGPT para fazer qualquer coisa que envolva senhas, números de identificação ou detalhes de conta é um risco significativo, pois pode levar a roubo de identidade e violações de dados. A OpenAI foi ordenada a reter registros de conversas de consumidores no passado, e é possível que isso possa acontecer novamente no futuro.
À luz desses riscos, é essencial estar ciente dos perigos potenciais de usar o ChatGPT para certas tarefas e tomar medidas para se proteger. Isso inclui ser cauteloso ao compartilhar informações sensíveis, usar o ChatGPT apenas para pesquisas e codificação gerais, e buscar conselhos de profissionais licenciados quando necessário.
Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.