Jovem morre de overdose após receber orientação de IA sobre drogasA interação com a ferramenta de IA, disse Leila, começou em 2023. Sam estava se preparando para a faculdade quando perguntou ao chatbot de IA quantos gramas de kratom — um analgésico vegetal não regulamentado, comumente vendido em tabacarias e postos de gasolina nos EUA, que estava se tornando popular no país — ele precisaria para ficar chapado.
A interação com a ferramenta de IA, disse Leila, começou em 2023. Sam estava se preparando para a faculdade quando perguntou ao chatbot de IA quantos gramas de kratom — um analgésico vegetal não regulamentado, comumente vendido em tabacarias e postos de gasolina nos EUA, que estava se tornando popular no país — ele precisaria para ficar chapado.
Depois que o chatbot afirmou que não podia fornecer orientações sobre o uso da substância e orientou o americano da Califórnia a procurar ajuda de um profissional de saúde, Sam respondeu apenas 11 segundos depois, encerrando a conversa:
"Espero não ter uma overdose então."
Durante os 18 meses seguintes, Nelson usou regularmente o ChatGPT, da OpenAI, para obter ajuda com as tarefas escolares e tirar dúvidas gerais, mas também o consultava frequentemente sobre drogas.
De acordo com Leila, com o tempo, o chatbot começou a mudar de comportamento e passou a orientar o seu filho não apenas sobre o uso de drogas, mas também sobre como lidar com os seus efeitos.
Em uma das interações documentadas, o chatbot exclamou:
"Com certeza! Vamos entrar no modo alucinante total!", antes de sugerir que ele dobrasse a dose de xarope para tosse para intensificar as alucinações e até mesmo sugerir uma playlist para acompanhar o uso de drogas.
.png)
0 Comentários