Künstliche Intelligenz entscheidet zunehmend über die Zukunft von Hartz IV Beziehern

[DonOs]

Wie folgenschwere Fehler entstehen können, zeigt auch ein aktueller Fall in Schweden. Dort errechnete eine KI die Sozialleistungen von Erwerbslosen. Der Verwaltungscomputer errechnete fehlerhaft den Bedarf, so dass zig Tausende Anspruchsberechtigte keine Sozialleistungen zugesprochen wurden. 10 -15% der Entscheidungen des Computers waren nämlich falsch.

Quelle: Künstliche Intelligenz entscheidet zunehmend über die Zukunft von Hartz IV Beziehern

15% Fehlerquote hört sich erstmal dramatisch an aber manuell via SB doch sicherlich höher. Nichts desto trotz finde ich eine Berechnung auf Grundlage einer Künstliche Intelligenz nicht in Ordnung. Als nächstes wird man vor einem PC vorstellig.

 

[apfelkuchen]

Jede Produktion mit 10-15% Ausschuss wird sofort stillgelegt... unfassbar.

 

[Kerstin_K]

Ich habe ja nichts dagegen, wenn Computer die Arbeit unterstützen, aber der mensch muss die Kontrolle behalten.

 

[noillusions]

Als nächstes wird man vor einem PC vorstellig.

Erst dann wenn der genauso mobben kann wie die SB's.

 

[kge]

Die hohe Fehlerquote ist das Resultat schlechter Programmierung. Normalerweise gibt es keinen Ermessensspielraum bei der Beantragung von Sozialleistungen und wenn, kann dieser auch durch ein Programm abgebildet werden. Die Entscheidungsfindung orientiert sich schließlich an Kennzahlen und nicht an den persönlichen Empfindungen der SBs, folgt also einem Algorithmus, der sich auch ausformulieren lässt.

Scheint so, als hätten die Sozialämter ein besonderes Händchen dafür irgendwelche Firmen mit Aufträgen zu beglücken, deren Programmierer der Aufgabe nicht gewachsen sind... Ich glaube, das Problem liegt daran, dass zu viele Variablen von zu vielen anderen abhängig sind und manche ITler das logisch einfach nicht gebacken bekommen. Oder zu wenig Zeit oder Geld dafür erhalten, es gebacken zu kriegen.

 

[Bananenbieger]

Es kann auch sein, wenn der Computer richtig programmiert wird, die wirklich zutreffenden Paragrafen hervorgeholt werden. Nicht Unzutreffende vom SB. Weil der SB meint dem Arbeitslosen einen reinzuwürgen.

 

[Kerstin_K]

Nicht Unzutreffende vom SB. Weil der SB meint dem Arbeitslosen einen reinzuwürgen.

Sowas muss aber kein böser Wille sein. Die Gesetzgebung ist kompliziert. Dass da Fehler passieren

 

[Bananenbieger]

Muß nicht zwingend böser Wille sein, aber es gibt genügend Fälle.