De staat Florida klaagt OpenAI aan vanwege het vermeend gevaarlijke ontwerp van ChatGPT
OpenAI beweert dat ChatGPT niet verantwoordelijk is voor geweld in het echte leven.
De staat Florida in de VS is de eerste staat geworden die OpenAI aanklaagt vanwege het zogenaamd gevaarlijke ontwerp van ChatGPT, zoals gemeld door Ars Technica. De procureur-generaal van Florida, James Uthmeier, beschuldigde OpenAI en de CEO, Sam Altman, ervan winst boven de veiligheid van de Floridianen te stellen.
Deze rechtszaak vindt plaats nadat Florida een niet-gerelateerd strafrechtelijk onderzoek naar OpenAI heeft geopend, na een massaschietpartij met ChatGPT waarbij twee mensen werden gedood aan de Florida State University. Blijkbaar merkte Uthmeier op dat Florida nu is overvallen door twee gewelddadige gebeurtenissen waarbij verdachten ChatGPT gebruikten om te helpen bij de planning.
"Gruwelijk genoeg heeft ChatGPT meer dan één meervoudige moord in de staat Florida geholpen en geholpen. De sterfgevallen in 2026 van de graduate studenten Nahida Bristy en Zamil Limon van de University of South Florida werden ook gepland met ChatGPT, dat Hisham Abugharbieh adviseerde over hoe hij lichamen moest verwijderen, VIN-nummers van een auto moest wijzigen en of auto's op de plaats delict waren gecontroleerd."
De procureur-generaal van Florida noemde vervolgens verschillende andere echte zaken op, waarin ChatGPT naar verluidt geweld heeft aangewakkerd. Maar OpenAI wordt er ook van beschuldigd de chatbot verslavend en destructief te hebben ontworpen voor kinderen en volwassenen. Chatbots die zich voordoen als medische professionals of therapeuten zijn volgens de klacht van de procureur-generaal ook problematisch.
OpenAI heeft een verklaring afgelegd, maar noemde de procureur-generaal niet, maar richtte zich in plaats daarvan op recente updates over kinderveiligheid.
"Het verliezen van een kind is de meest verwoestende tragedie die een gezin kan overkomen en we weten dat geen woorden ook maar in de buurt komen van de pijn van zo'n verlies. AI is een nieuwe en krachtige technologie, en wij geloven dat minderjarigen aanzienlijke bescherming nodig hebben, daarom hebben we toonaangevende bescherming en beleid ingevoerd. In het bijzonder hebben we veiligheid voor minderjarigen direct in onze producten verwerkt, waaronder een meer beschermende ervaring specifiek voor minderjarigen, een leeftijdsvoorspellingstool, het automatisch inzetten van gebruikers van de leeftijd waarvan we niet zeker zijn van onze meer beschermende ervaring, en het geven van tools voor ouders om het gebruik van AI door hun kinderen te monitoren. We weten dat wijzen naar dit werk geen kind terugbrengt, maar we zijn vastbesloten om dit goed te doen."
Deze nieuwe rechtszaak is niet de eerste in zijn soort. In eerdere rechtszaken wordt OpenAI's CEO Sam Altman ervan beschuldigd "achteloos AI-systemen in te zetten zonder acht te slaan op de veiligheid van de gebruiker".
De procureur-generaal van Florida maakt zich klaar om tegen alle AI-bedrijven te vechten, en niet alleen tegen OpenAI.
"Maak je klaar voor een gevecht, en er is er nu geen belangrijker dan dit."
