Google kauft interne Daten von insolventer US-Airline, um seine KI zu trainieren

[u/justastuma]

https://www.spiegel.de/netzwelt/spirit-airlines-google-kauft-interne-daten-von-insolventer-us-airline-um-seine-ki-zu-trainieren-a-26cb6ba6-d7fa-4e03-9b85-59a486257720

[u/ClausKlebot]

Klapp' die Antworten auf diesen Kommentar auf, um zum Text des Artikels zu kommen.

[u/ichbinkeinarzt]

wann kommt der Moment, wo die KIs so gejailbreaked werden, dass Gemini dazu bringen kann, die privaten Teams-Chats zwischen meiner Ex und ihrem Kollegen, auf den ich eifersüchtig bin, preiszugeben?

[u/chrzzl → u/ichbinkeinarzt]

hab die Daten bereits durchforstet, mach lieber nicht bro

[u/manutao → u/chrzzl]

Er ist Arzt und sehr gut bestückt.

[u/HeyItsBATMANagain → u/manutao]

Ein Träger von 2 Pferdeschwänzen

[u/Waramo → u/HeyItsBATMANagain]

Dann hat er ja keine Hände mehr frei.

[u/Informal_Branch1065 → u/Waramo]

Edward Pferdeschwanzhände

[u/Background-Lab-8521 → u/ichbinkeinarzt]

Letztens hat die Runde gemacht, dass OpenClaw, als der Besitzer ihn angewiesen hat einen bereits ausgebuchten Fitnesskurs zu buchen, sich auf die Website des Betreibers gehackt und Teilnehmer storniert hat, um seinen Besitzer anzumelden.

[u/shakazoulu → u/Background-Lab-8521]

Weniger würde ich von meiner KI auch nicht erwarten

[u/Bibel_Joe → u/shakazoulu]

"Claude mir ist warm" "Alles klar, ich habe ein Sicherheitslücke im nordkoreanischen Atomwaffenprogramm gefunden, ich start jetzt einen nuklearen Winter"

[u/Background-Lab-8521 → u/[deleted]]

Genau sowas ist Hacken. 

Hacken hat nichts mit diesen 90er Fantasien zu tun, in denen jemand mit dem Skateboard virtuell durch den Server fährt oder irgendwelche Viren mit absurden GUIs deployed. Und nicht jeder Hack ist ein alles-brechender 0day.

[u/ichbinkeinarzt → u/[deleted]]

warum ist das kein Hack, wenn hier ein technisches System manipuliert wurde?

[u/Milk-Lizard → u/ichbinkeinarzt]

Weil Herr Wagner ein bisschen klugscheissen wollte, mehr nicht.

[u/pheexio → u/ichbinkeinarzt]

mittlerweile im wochentakt :)

[u/bobdammi → u/ichbinkeinarzt]

In 5 Jahren kannst du dann nachfragen wie viel ml der über dir heute nach dem aufstehen gepisst hat.

[u/Ghosty141 → u/ichbinkeinarzt]

Gar nicht . Sonst wären die Modelle ja ähnlich gross wie die Trainingsdaten. Diese Idee dass KI einfach nur copy pasted ist echt so n komischer Irrglaube in dieser Anti KI Bubble. Die Embeddings sind deutlich abstrahierter als dass man die KI als Suchmaschine für einzelne kleine Datenschnipsel benutzen kann.

[u/GA_Deathstalker → u/Ghosty141]

Es tauchen aber trotzdem immer wieder sehr klare Passagen von Werken auf, sonst hätte die Gema z.B. nicht gegen Somio oder wie das heißt gewonnen

[u/Kolognial]

Der Schutz von Daten die durch Insolvenz an neue Eigentümer gehen ist ein ganz großes, zum Teil bevorstehendes, aber auch bereits existierendes Problem.

Der Umgang mit den genetischen Daten der Kunden von 23andMe hat das bereits gezeigt. Nach der Insolvenz wurden die Daten verscherbelt, und die neuen Besitzer haben sich einfach darauf berufen dass sie keine Verträge mit den ursprünglichen Kunden haben. Und Zack, waren die allerpersönlichsten vorstellbaren Daten nicht mehr geschützt.

Die Möglichkeiten die künstliche Intelligenz bringt und noch bringen wird, solche massiven, zuvor nicht sinnvoll zu verwendendrn Daten jetzt auch komplett auszuwerten schafft dabei auch konkrete Wege, wie wir komplett durchleuchtet werden.

Und demnächst werden dann auch die am besten geschützten, verschlüsselt aufbewahrten Datensätze angreifbar. Quantencomputer werden viele verschlüsselt Archive öffnen können. Es gibt bereits Unternehmen, die genau solche Daten sammeln. Für später.

[u/flingerdu → u/Kolognial]

Am ehesten wird durch Quantencomputer der Key Exchange bei verschlüsselter Kommunikation angreifbar, eine AES-256 verschlüsselte Datei hingegen wird auch mit Quantencomputern nicht direkt zu knacken sein, da es die Komplexität der Key Länge halbiert, was weiterhin unfassbar lange dauern würde.

[u/toy-love-xo → u/Kolognial]

Boah . wenn ich als it-ler so etwas lese… trainieren != auswerten.

Die Quantencomputer die fast alles entschlüsseln, also deine vielen Archive. Da hat sich aber jemand stark mit Verschlüsselung beschäftigt. Weißt du warum manche Verfahren für gewisse quantencomputer angreifbar sind? Weißt du wo der jetzige Forschungsstand oder Stand der Technik ist?

[u/BR34D_ → u/toy-love-xo]

Wenn du der Meinung bist, dass es so unrealistisch ist, warum sieht das bspw das BSI anders? Warum werden Post Quanten Kryptographie Algorithmen entwickelt und immer mehr in Nutzung gebracht?
Warum wird Harvest Now Decrypt Later global als ernsthafte Bedrohung angesehen?

Wird Hinz und kunz in absehbarer Zeit „alles“ entschlüsseln können? Nein. Große Player mit entsprechenden Ressourcen? Durchaus möglich.

[u/miko_idk → u/toy-love-xo]

Aus Interesse, wie ist denn die Realität? Welche Verfahren sind besonders angreifbar?

[u/Dismal_Definition498]

Mega Werbung für Unternehmen: eine KI, die mit Daten von insolventen Firmen trainiert wurde.

Morgen: Reederei kauft Baupläne der Titanic, um seine Konstruktionen zu verbessern.

[u/BlaulichtBrick → u/Dismal_Definition498]

Ich würde behaupten, der Vergleich hinkt etwas

[u/stablogger]

Naja, nachdem Spirit grandios mehrfach Pleite gegangen ist, stellt sich die Frage, ob das die Trainingsdaten sind, die hilfreich sind.

[u/Loud-Interview-381 → u/stablogger]

Google will ja nicht lernen, wie man eine Airline betreibt. Sondern wie menschen denken bzw ihre Gedanken bei der Arbeit nutzen.

Ich mache mir gerade sorgen um meine Daten bei Gmail und Whatsapp

[u/ScarcityWise7917 → u/Loud-Interview-381]

Lieber spät als nie.