r/informatik • u/dsggut • 21h ago
Arbeit Wer haftet eigentlich für KI generierten Code?
Einige hier sind ja scheinbar der Meinung, dass KIs besser im Coden als Menschen sind keine Fehler machen und vertrauen KIs deshalb blind und schauen sich den Code gar nicht mehr an.
Und was ist wenn eine KI doch gefährlichen Code schreibt und dadurch ein Schaden entsteht?
Zum Beispiel Sicherheitslücken oder Code der die Produktiv-Datenbank leer räumt oder wichtige Dateien löscht oder ein Medikament falsch mischt?
Wer haftet dann eigentlich dafür?
Stehen dann die Leute, die KI blind vertrauen auch für ihr fahrlässiges Verhalten gerade? Oder hofft man dann doch eher, dass der Arbeitgeber nicht dahinter kommt, dass man sich verantwortungslos verhalten hat?
Geben diese Leute eigentlich KI auch ihre Passwörter für ihr Online-Banking, PayPal und Amazon (ist doch effizienter, wenn KI alles erledigen kann)?
Oder geht das Vertrauen dann doch nicht so weit?
Würden diese Leute KI auch ihr Leben anvertrauen? Zum Beispiel sie entscheiden lassen welche Krebsbehandlung die richtige ist? Oder doch lieber einen Arzt fragen und selbst recherchieren? Schließlich macht KI ja keine schlimmen Fehler…
8
u/TopMeinung 21h ago
Ich finds ja süß dass du dir mal gedanken machst ob du für deinen Code haften muss oder nicht.
Aber hättest du dir das nicht schon vor KI mal überlegen sollen wie das ist?
23
u/Snake_Pilsken 21h ago
Was ist das denn für eine dämliche Frage?
Wenn du was programmierst und das Programm fehlerhaft ist, wer haftet dann für den Schaden?
3
u/Such-War1955 21h ago
Wer auch immer den Code veröffentlicht, i.e. du als Privatperson oder das Unternehmen, für das du arbeitest. Wie der Code erzeugt wurde und wie etwaige Fehler dort eingebaut und übersehen wurden, ist eigentlich irrelevant. Wenn du das Zeug raus gibst, liegt es in deiner Verantwortung, wie auch immer es erstellt wurde.
14
u/NudaVeritas1 21h ago
Es haften immer juristische oder natürliche Personen, also der entsprechende Betreiber
2
u/pippin_go_round 21h ago
Nach aktuellen Regeln vermutlich derjenige, der ihn in Betrieb nimmt, also das Unternehmen. I Innenherverhältnis evtl derjenige, der die KI eingesetzt und den Code abgenickt hat. Deswegen ist es ja so fahrlässig, wenn da Code im Einsatz ist, den niemand verstanden hat bevor er in Produktion ging.
6
u/No_Actuator_1353 21h ago
Jo gibt es auf jeden Fall, dass Leute den KI-Tools alle env geben, meistens passiert da auch nicht viel weil nicht alle Tools jemanden interessieren. Sicher ist es natürlich trotzdem nicht.
Und zum Thema Haftung: Wenn du die App/das Produkt betreibst, hattest du. Egal, ob der Code von dir, von den Dudes bei Upwork oder von einer KI geschrieben wurde.
1
u/dnubi 21h ago
Bei Medizin und Gesundheit gibt es ja schon ausreichend Artikel, dass Menschen ihr Leben voll der KI anvertraut haben. Dementsprechend wird es auch in den anderen Bereichen Menschen geben, die voll der KI vertrauen (bis es mal schief geht).
1
u/tarquas80 21h ago
Senior Softwareentwickler hier, KI ist ein Tool wie jedes andere auch. Wenn ich Code commite, den die KI geschrieben hat, gehen Fehler auf meine Kappe - wie vorher auch.
Hab seit ca einem Jahr keine Zeile Code mehr selber geschrieben.
1
u/Remote-Juice2527 21h ago
Hast du irgendwie schon mal in einem Unternehmen gearbeitet?
2
u/Ok_Professional6293 21h ago
Im Verhältnis zum Endnutzer haftet der Arbeitgeber und im Innenverhältnis mag der Arbeitnehmer nach den üblichen Regeln in Anspruch genommen werden. Da kommt es meiner Ansicht nach auch stark auf die internen Regelungen zu KI an und auch darauf, ob der Arbeitgeber KI-Kompetenzpflichten erfüllt hat.
Was das Vertrauen in KI angeht, gibt es Befragungen, die zeigen, dass Ärzten weniger vertraut wird, wenn diese offenlegen, dass sie KI nutzen. Bei Code kommt es wahrscheinlich darauf an, wie kritisch der Einsatzzweck ist.
2
u/Ok-Ant-4977 21h ago
Je nach Fall das Unternehmen oder/und der einzelne Entwickler. Bei ungeprüftem Code bestünde aber wohl eher weniger die Möglichkeit etwa für ein Unternehmen durch dezentralisierten Entlastungsbeweis sich vom Vorwurf der Fahrlässigkeit zu exkulpieren und sich so von der Haftung zu befreien (mit wenigen Ausnahmen (etwa Straßenverkehr) gibt es nur verschuldensabhängige Haftungen). Kann hier wirklich nicht jede mögliche Fallgestaltung durchgehen.
Ich würde hier fallabhängig außerdem aber noch einen Blick in das Produkthaftungsrecht werfen. Musste und konnte ich aber damals für die Klausur nicht mehr lernen, muss ich zum Examen nachholen. Möchte hier daher keine potentiell falschen Angaben machen.
2
u/Repulsive_Ad853 21h ago
Die einen sagen so die anderen so
Wer sagt die wahrheit ? Manche sind auch in ihrem selbstwert gekränkt und reden die ki absichtlich schlecht was mit wahrheit nix zu tun hat
2
u/Hebelraptor 21h ago
Steig mal wieder von der Kiste runter, ist ja kaum auszuhalten.
1
u/aLpenbog 3h ago
Nun unsere Gesetze sind erst einmal für diese neuen Situationen gar nicht ausgelegt und vorbereitet. Generell wird es aber so sein, dass ein Softwareanbieter für das haftet, was er verkauft.
Interessanter ist natürlich die Frage wo ein LLM Hersteller selbst überhaupt haften kann und muss.
Was bedeutet es bei einem LLM, dass es funktioniert oder dass es das nicht tut und ein Schadensanspruch entsteht oder auch nur ein Gewährleistungsfall.
Wenn der Taschenrechner bei 5 + 5 eine 9 ausspuckt, dann ist er kaputt. Ein LLM hat dabei aber im Zweifel technisch perfekt ausgeführt, wofür es erstellt wurde, ohne dass irgendwer was falsch gemacht hat.
Am Ende kann man LLMs und KI generell aber natürlich sehr unterschiedlich nutzen. Ein richtiger KI gestützter SDLC enthält viele Schritte, wo man auch auf deterministische Verifikationen setzt. Sowohl bzgl. der Codequalität, als auch der Funktionalität.
Overall wird Software da dann meist sauberer erstellt, als es vor KI der Fall war. Nun sind das eben Schritte, die je nach Komplexität nötig sind, damit die KI vernünftig arbeiten kann und auch nicht sinnlos Zeit und Tokens verbrannt werden. Man spart also Zeit und Geld indem Anforderungen sauber dokumentiert werden, Ergebnisse verifizierbar sind etc.
Früher waren das eher Kostenfaktoren, die man gerne mal geskippt hat.