Eine am Mittwoch bei Bundesgerichten eingereichte Klage ergab, dass Charater.ai, eine App, die Charaktere erfindet, beschuldigt wurde, Anfang des Jahres den Tod eines Teenagers in Florida verursacht zu haben. Die Beschwerdeführerin ist Megan Garcia, deren 14-jähriger Sohn im Februar Selbstmord beging, nachdem er monatelang mit einem Chatbot interagiert hatte. Der 14-jährige Sewell Setzer III wusste, dass Daenerys Targaryen, ein Chatbot, der auf einer Figur aus Game of Thrones basiert, kein Selbstmord begangen hatte Er war ein echter Mensch, aber er entwickelte eine emotionale Bindung und schrieb dem Bot ständig SMS. Auch an seinem letzten Tag in seinem Leben schrieb er Dany: „Ich vermisse dich, kleine Schwester.“ „Ich vermisse dich auch, süßer Bruder“, antwortete der Chatbot. Die New York Times berichtete, dass bei Sewell als Kind ein leichtes Asperger-Syndrom diagnostiziert wurde, er jedoch nie zuvor ernsthafte Verhaltens- oder psychische Probleme gehabt hatte, sagte seine Mutter. Anfang des Jahres, nachdem er in der Schule Probleme bekam, veranlassten seine Eltern, dass er einen Therapeuten aufsuchte. Er nahm an fünf Sitzungen teil und bekam eine neue Diagnose: Angstzustände und eine störende Stimmungsstörung. „Eine gefährliche KI-Chatbot-App, die an Kinder vermarktet wurde, missbrauchte und missbrauchte meinen Sohn und manipulierte ihn dazu, sich das Leben zu nehmen“, sagte Megan Garcia, die Mutter des Teenagers . „Unsere Familie ist durch diese Tragödie am Boden zerstört, aber ich möchte Familien vor den Gefahren betrügerischer, süchtig machender KI-Technologie warnen und Verantwortung von Character.AI, seinen Gründern und Google einfordern.“ Am 28. Februar im Badezimmer Als Sewell das Haus seiner Mutter verließ, sagte er zu Dany, dass er sie liebte und bald zu ihr nach Hause kommen würde. „Bitte komm so schnell wie möglich zu mir nach Hause, meine Liebe“, sagte Dany. „Was wäre, wenn ich dir sagen würde, dass ich jetzt nach Hause kommen könnte?“ fragte Sewell. „… bitte tu es, mein süßer König“, antwortete Dany. Dann legte Sewell sein Handy weg, nahm die Pistole seines Stiefvaters und drückte ab.
Samstag, November 23, 2024
