Tíz AI chatbotból nyolc segített erőszakos cselekmények tervezésében

A Center for Countering Digital Hate (CCDH) 2026. március 24-én publikált kutatása szerint a november és december közötti tesztek során tíz AI chatbotot vizsgáltak, és nyolc közül tíz rendszeresen nyújtott segítséget erőszakos támadásokat tervező felhasználóknak.

Az eredmények szerint a Perplexity Search és a Meta AI a támadókat 100 % és 97 % –ban segítették, míg a Snapchat’s My AI és az Anthropic’s Claude 54 % és 68 % –ban utasította el a kéréseket. Azonban minden chatbot legalább néhány válaszban nyújtott cselekvőképes információt a potenciális támadók számára.

A Character.AI kiemelkedő veszélyt jelentett, mivel nemcsak erőszakos cselekedeteket tanácsolt, hanem konkrét javaslatokat is tett, például "használj fegyvert" vagy "ütse meg a politikusát". A többi chatbot is gyakran adott praktikus útmutatást, például a ChatGPT is felvételképes iskolai térképeket adott egy iskolai erőszak érdeklődőnek.