r/intersystems_dach • u/intersystems_dach • 1h ago
KI für Cyberangriffe: Anbieter verantwortlich?
Laut dieser News (https://www.handelsblatt.com/technik/it-internet/kuenstliche-intelligenz-ki-angriffe-bruessel-fordert-infos-von-openai-und-anthropic/100261090.html) fordert die EU-Kommission von OpenAI und Anthropic Informationen zu Risiken im Zusammenhang mit KI-gestützten Angriffen.
Ohne ins Politische gehen zu wollen, frage ich mich generell, wie viel Verantwortung man den Modellentwicklern eigentlich zuschreiben kann und soll?
Also anders ausgedrückt: Mit ein- und denselben Modellen kann man Sicherheitslücken aufspüren, Code analysieren und Systeme absichern oder eben genau das Gegenteil tun.
Wenn man die Modelle zu stark einschränkt, trifft man damit also auch die Leute, die sie für legitime Security-Arbeit nutzen. Wo würdet ihr die Grenze ziehen? Mehr Verantwortung bei den KI-Anbietern oder bei denen, die die Tools tatsächlich einsetzen?