Schulen nutzen KI, um Polizei zu Schülern nach Hause zu schicken

Schulen setzen zweifelhafte KI-gestützte Software ein, um Teenagern vorzuwerfen, sich selbst verletzen zu wollen, und schicken infolgedessen die Polizei zu ihren Häusern – oft mit chaotischen und traumatischen Ergebnissen.

Die New York Times berichtet, dass Software, die auf den Schulgeräten der Schüler installiert wird, jedes Wort verfolgt, das sie eingeben. Ein Algorithmus analysiert dann die Sprache auf Hinweise darauf, dass Jugendliche sich selbst verletzen wollen.

Es ist nicht überraschend, dass die Software falsch liegen kann und oft missversteht, was die Schüler tatsächlich sagen wollen. Eine 17-Jährige in Neosho, Missouri, wurde zum Beispiel mitten in der Nacht von der Polizei geweckt.

Wie sich herausstellte, löste ein Gedicht, das sie vor Jahren geschrieben hatte, die Alarme einer Software namens GoGuardian Beacon aus, die ihr Hersteller als Mittel zur „Sicherung von Schülern vor körperlichem Schaden“ beschreibt.

„Es war eine der schlimmsten Erfahrungen ihres Lebens“, sagte die Mutter des Teenagers gegenüber der NYT.

Internet-Sicherheitssoftware von Bildungstechnologieunternehmen verbreitete sich während der COVID-19-Schließungen und führte zu weit verbreiteter Überwachung von Schülern in ihren eigenen Häusern.

Viele dieser Systeme sind darauf ausgelegt, Schlüsselwörter oder Phrasen zu markieren, um herauszufinden, ob ein Teenager plant, sich selbst zu verletzen.

Aber wie die NYT berichtet, haben wir keine Ahnung, ob sie überhaupt effektiv oder genau sind, da die Unternehmen noch keine Daten veröffentlicht haben.

Neben Fehlalarmen haben Schulen berichtet, dass ihnen die Systeme zumindest einige Male rechtzeitig eingreifen konnten, bevor akute Gefahr bestand.

Die Software bleibt jedoch äußerst invasiv und könnte eine massive Verletzung der Privatsphäre darstellen. Bürgerrechtsgruppen haben die Technologie kritisiert und argumentiert, dass in den meisten Fällen keine Strafverfolgungsbehörden involviert sein sollten.

Ist dies wirklich das beste Mittel gegen Teenagerselbstmorde? Diese sind zur zweithäufigsten Todesursache bei Personen im Alter von fünf bis 24 Jahren in den USA geworden.

„Es gibt viele falsche Alarme“, sagte Ryan West, Leiter der Polizeibehörde an der Schule des 17-Jährigen gegenüber der NYT. „Aber wenn wir dadurch ein Kind retten können, ist es viele falsche Alarme wert.“

Andere hingegen neigen dazu anderer Meinung zu sein. „Angesichts des völligen Mangels an Informationen über Ergebnisse ist es für mich nicht wirklich möglich das System zu bewerten“, sagte Ryan Dorsey vom Stadtrat Baltimore gegenüber der Zeitung. „Ich halte es für zutiefst fehlgeleitet Polizei – insbesondere im Wissen darüber was ich über Schulpolizei im Allgemeinen weiß und glaube – zu Kindern nach Hause zu schicken.“

Mehr zur KI: Verdächtiger Attentäter des Versicherungs-CEO studierte künstliche Intelligenz und sprach von ‚Singularität‘