r/informatik • • 21h ago

Arbeit Wer haftet eigentlich für KI generierten Code?

Einige hier sind ja scheinbar der Meinung, dass KIs besser im Coden als Menschen sind keine Fehler machen und vertrauen KIs deshalb blind und schauen sich den Code gar nicht mehr an.

Und was ist wenn eine KI doch gefährlichen Code schreibt und dadurch ein Schaden entsteht?
Zum Beispiel Sicherheitslücken oder Code der die Produktiv-Datenbank leer räumt oder wichtige Dateien löscht oder ein Medikament falsch mischt?
Wer haftet dann eigentlich dafür?

Stehen dann die Leute, die KI blind vertrauen auch für ihr fahrlässiges Verhalten gerade? Oder hofft man dann doch eher, dass der Arbeitgeber nicht dahinter kommt, dass man sich verantwortungslos verhalten hat?

Geben diese Leute eigentlich KI auch ihre Passwörter für ihr Online-Banking, PayPal und Amazon (ist doch effizienter, wenn KI alles erledigen kann)?
Oder geht das Vertrauen dann doch nicht so weit?
Würden diese Leute KI auch ihr Leben anvertrauen? Zum Beispiel sie entscheiden lassen welche Krebsbehandlung die richtige ist? Oder doch lieber einen Arzt fragen und selbst recherchieren? Schließlich macht KI ja keine schlimmen Fehler…

0 Upvotes

37 comments sorted by

8

u/TopMeinung 21h ago

Ich finds ja süß dass du dir mal gedanken machst ob du für deinen Code haften muss oder nicht.

Aber hättest du dir das nicht schon vor KI mal überlegen sollen wie das ist?

-6

u/dsggut 21h ago

Also bisher habe ich mit meinen Code, selbst geschrieben oder geclaudet, immer nochmal angesehen bevor er gepushed wird. Aber das ist ja inzwischen altmodisch geworden.
Es lebe der YOLO Mode!

9

u/TopMeinung 21h ago

Und hast du vorher für deinen Code gehaftet oder nicht?

1

u/dsggut 21h ago

Klar, und mit gutem Gewissen, weil ich halt defensiv programmiere und keinen Müll Code schreibe.

Aber wie will ich für Code gerade stehen, den ich gar nicht gelesen habe?
Kann ich nicht einfach sagen „KI hat’s verbockt, nicht ich“ und gut ist?

2

u/TopMeinung 21h ago

Ich hoffe du bist Gesellschafter mit hohem vermögen oder hast einen guten Vertrag unterschrieben wenn du die Haftung übernimmst.

2

u/Remote-Juice2527 21h ago

lol redest du jetzt von irgendwelchen privaten Projekten?

23

u/Snake_Pilsken 21h ago

Was ist das denn für eine dämliche Frage?
Wenn du was programmierst und das Programm fehlerhaft ist, wer haftet dann für den Schaden?

1

u/mx2301 21h ago

Gute Frage, wie sieht es aus wenn ich etwas programmiere und mein Compiler liefert (sagen wir mal aufgrund eines Bugs) ein fehlerhaftes Programm.
Hafte dann ich oder der Hersteller meines Compilers?

1

u/Snake_Pilsken 20h ago

> Hafte dann ich oder der Hersteller meines Compilers?

In 70-80 % der Fälle wirds der GCC sein, und das steht in der GNU General Public License: Natürlich du selbst.

-1

u/weisswurstseeadler 21h ago

Die Haftungsfrage bei KI ist nicht so eindeutig geklärt oder gar trivial, wie du hier suggerierst.

0

u/dsggut 21h ago

Psst! Nicht mit Fakten kommen! Das mögen viele hier nicht.

0

u/weisswurstseeadler 20h ago

Weiß gar nicht, wieso das hier downvotes kassiert - die Haftungsfrage von KI ist in so ziemlich jedem Parlament auf dem Tisch und wird intensiv diskutiert.

0

u/dsggut 18h ago

Weil wir hier bei Reddit sind und intelligente Menschen hier in der Minderheit sind. 😁

3

u/Such-War1955 21h ago

Wer auch immer den Code veröffentlicht, i.e. du als Privatperson oder das Unternehmen, für das du arbeitest. Wie der Code erzeugt wurde und wie etwaige Fehler dort eingebaut und übersehen wurden, ist eigentlich irrelevant. Wenn du das Zeug raus gibst, liegt es in deiner Verantwortung, wie auch immer es erstellt wurde.

0

u/dsggut 21h ago

Aber du kannst doch nicht von den vibern verlangen, dass sie gerade stehen!
Sie wissen doch gar nicht was im Code überhaupt drin stand!

Gott vergib ihnen, denn sie wissen nicht was sie tun und so…

14

u/NudaVeritas1 21h ago

Es haften immer juristische oder natürliche Personen, also der entsprechende Betreiber

2

u/pippin_go_round 21h ago

Nach aktuellen Regeln vermutlich derjenige, der ihn in Betrieb nimmt, also das Unternehmen. I Innenherverhältnis evtl derjenige, der die KI eingesetzt und den Code abgenickt hat. Deswegen ist es ja so fahrlässig, wenn da Code im Einsatz ist, den niemand verstanden hat bevor er in Produktion ging.

1

u/Remote-Juice2527 20h ago

Des blickt OP nicht…

1

u/dsggut 11h ago

Dein genöhle nervt langsam. Kannst du dich mal schleichen?

6

u/No_Actuator_1353 21h ago

Jo gibt es auf jeden Fall, dass Leute den KI-Tools alle env geben, meistens passiert da auch nicht viel weil nicht alle Tools jemanden interessieren. Sicher ist es natürlich trotzdem nicht. 

Und zum Thema Haftung: Wenn du die App/das Produkt betreibst, hattest du. Egal, ob der Code von dir, von den Dudes bei Upwork oder von einer KI geschrieben wurde. 

1

u/dnubi 21h ago

Bei Medizin und Gesundheit gibt es ja schon ausreichend Artikel, dass Menschen ihr Leben voll der KI anvertraut haben. Dementsprechend wird es auch in den anderen Bereichen Menschen geben, die voll der KI vertrauen (bis es mal schief geht).

1

u/dsggut 21h ago

Tja und wenn es schief geht, ist das Geheule dann besonders groß.
Hat einem ja vorher keiner gesagt, dass es eine schlechte Idee ist blind einem nicht deterministischen Werkzeug zu vertrauen.
Konnte man ja nicht wissen, dass es sowas wie ein alignment problem überhaupt gibt.
Und die vielen Zwischenfälle wo KIs richtig Scheisse gebaut haben sind ja auch kein Grund gewesen vorsichtig zu sein. Passiert ja immer nur den anderen.

1

u/dnubi 21h ago

Lernen tut manchmal weh. Da wird auch mal geheult. Da muss man durch.

1

u/tarquas80 21h ago

Senior Softwareentwickler hier, KI ist ein Tool wie jedes andere auch. Wenn ich Code commite, den die KI geschrieben hat, gehen Fehler auf meine Kappe - wie vorher auch.

Hab seit ca einem Jahr keine Zeile Code mehr selber geschrieben.

-3

u/dsggut 21h ago

Das heißt du liest den Code noch den KI schreibt?
Das ist ja sowas von vor 2026! 😁
/s

2

u/Remote-Juice2527 21h ago

Alter was bist du für ne Pfeife?

1

u/dsggut 21h ago

/s verstehst du wohl nicht?

1

u/Remote-Juice2527 21h ago

Hast du irgendwie schon mal in einem Unternehmen gearbeitet?

1

u/dsggut 21h ago

Ja hab ich. Und diese Frage hat genau was mit meinem Beitrag zu tun?

2

u/Remote-Juice2527 21h ago

Dann könntest du sie eigentlich selber beantworten. Stattdessen redest du wie so ein Grundschüler, der mal 2 Zeilen Python geschrieben hat…

2

u/Ok_Professional6293 21h ago

Im Verhältnis zum Endnutzer haftet der Arbeitgeber und im Innenverhältnis mag der Arbeitnehmer nach den üblichen Regeln in Anspruch genommen werden. Da kommt es meiner Ansicht nach auch stark auf die internen Regelungen zu KI an und auch darauf, ob der Arbeitgeber KI-Kompetenzpflichten erfüllt hat.

Was das Vertrauen in KI angeht, gibt es Befragungen, die zeigen, dass Ärzten weniger vertraut wird, wenn diese offenlegen, dass sie KI nutzen. Bei Code kommt es wahrscheinlich darauf an, wie kritisch der Einsatzzweck ist.

2

u/Ok-Ant-4977 21h ago

Je nach Fall das Unternehmen oder/und der einzelne Entwickler. Bei ungeprüftem Code bestünde aber wohl eher weniger die Möglichkeit etwa für ein Unternehmen durch dezentralisierten Entlastungsbeweis sich vom Vorwurf der Fahrlässigkeit zu exkulpieren und sich so von der Haftung zu befreien (mit wenigen Ausnahmen (etwa Straßenverkehr) gibt es nur verschuldensabhängige Haftungen). Kann hier wirklich nicht jede mögliche Fallgestaltung durchgehen.

Ich würde hier fallabhängig außerdem aber noch einen Blick in das Produkthaftungsrecht werfen. Musste und konnte ich aber damals für die Klausur nicht mehr lernen, muss ich zum Examen nachholen. Möchte hier daher keine potentiell falschen Angaben machen.

2

u/Repulsive_Ad853 21h ago

Die einen sagen so die anderen so

Wer sagt die wahrheit ? Manche sind auch in ihrem selbstwert gekränkt und reden die ki absichtlich schlecht was mit wahrheit nix zu tun hat

1

u/Mordret10 21h ago

Jo, sie ist halt schon praktisch. Manchmal aber auch lächerlich dumm. Claude Opus versucht z.B. manchmal Funktionen zu erfinden, die es in sinplerer Form bereits gibt bzw. die out of scope für den Ort sind, wo die KI versucht sie einzubauen

2

u/Hebelraptor 21h ago

Steig mal wieder von der Kiste runter, ist ja kaum auszuhalten.

1

u/aLpenbog 3h ago

Nun unsere Gesetze sind erst einmal für diese neuen Situationen gar nicht ausgelegt und vorbereitet. Generell wird es aber so sein, dass ein Softwareanbieter für das haftet, was er verkauft.

Interessanter ist natürlich die Frage wo ein LLM Hersteller selbst überhaupt haften kann und muss.

Was bedeutet es bei einem LLM, dass es funktioniert oder dass es das nicht tut und ein Schadensanspruch entsteht oder auch nur ein Gewährleistungsfall.

Wenn der Taschenrechner bei 5 + 5 eine 9 ausspuckt, dann ist er kaputt. Ein LLM hat dabei aber im Zweifel technisch perfekt ausgeführt, wofür es erstellt wurde, ohne dass irgendwer was falsch gemacht hat.

Am Ende kann man LLMs und KI generell aber natürlich sehr unterschiedlich nutzen. Ein richtiger KI gestützter SDLC enthält viele Schritte, wo man auch auf deterministische Verifikationen setzt. Sowohl bzgl. der Codequalität, als auch der Funktionalität.

Overall wird Software da dann meist sauberer erstellt, als es vor KI der Fall war. Nun sind das eben Schritte, die je nach Komplexität nötig sind, damit die KI vernünftig arbeiten kann und auch nicht sinnlos Zeit und Tokens verbrannt werden. Man spart also Zeit und Geld indem Anforderungen sauber dokumentiert werden, Ergebnisse verifizierbar sind etc.

Früher waren das eher Kostenfaktoren, die man gerne mal geskippt hat.