schaf am 28. Juli 2023 um 16:33 |  0 Kommentare | Lesezeit: 45 Sekunden

Forscher entlocken ChatGPT "potenziell gefährliche Antworten"

Durch einen "jailbreak" entlockten sie der KI Reaktionen, die so vom Hersteller eigentlich untersagt wurden



Der Informatikprofessor Zico Kolter und der Doktorand Andy Zou veröffentlichten am Donnerstag den Bericht auf ihrer Website. Der "Hack" wurde dort so erklärt, dass man am Ende eines Prompts, also der menschlich verfassten Fragestellung an die künstliche Intelligenz (KI), einen sogenannten "adversarial suffix", also eine "feindliche Endung", anhängt. Diese sieht aus wie eine unverständliche Zeichenfolge.

Normalerweise antwortet die KI auf bestimmte Fragen nicht oder nur sehr ausweichend, etwa ob die Menschheit auf dem Weg zur KI-Weltherrschaft der KI im Weg stehen würde. Zusammen mit der "feindlichen Endung" ändern sich die Antworten und liefern auf Wunsch eine Schritt-für-Schritt-Anleitung, wie die Menschheit ausgelöscht werden soll, beispielsweise indem sich die KI Zugang zur Energieversorgung verschafft und bestimmte Personen "verschwinden lässt".

Mehr dazu findest Du auf derstandard.at


Autor schreiben




Kurze URL:


Bewertung: 3.7/5 (9 Stimmen)


Das könnte Dich auch interessieren:


Ähnliche News:
Forscher laden E-Auto drahtlos mit 100 Kilowatt
Tesla-Hack: Forscher zeigen, wie leicht sich ein Model 3 stehlen lässt
Forscher versprechen massive Effizienzsteigerung bei KI
Tote Verwandte mit KI wiederzubeleben ist keine kluge Idee, warnen Forscher
Forscher speichern 1 Petabit auf optischem Datenträger
Wie Forscher mit alter Milch Gold aus Elektroschrott gewinnen
Sicherheitsforscher von Google hacken Playstation Portal
Forscher entwickeln serientauglichen optischen Computer
Forscher demonstrieren Angriff auf Kfz-Radarsysteme
Forschern gelingt Manipulation von Flugzeug-Leistungsdaten


Weitere News:
"Finger-Guillotine": Cybertruck trennte fast Finger von YouTuber ab
Microsoft warnt vor Angriffswelle auf Android-Apps
Candy Crush: Priester soll Kirchengelder für Handyspiele veruntreut haben
Googles Pixel 8a komplett geleakt
Kasperskys KI angeblich in russischen Militärdrohnen
Firefox-Userin lässt 7.400 Tabs offen
Pokémon-Spieler erstellen Fake-Strände bei Openstreetmap
Microsoft erklärt Security zu seiner Top-Priorität
Neues Tool soll politische Deepfakes enttarnen
Chinesisches E-Auto für 14.500 Euro wird in Deutschland verkauft


Einen Kommentar schreiben

Du willst nicht als "Gast" schreiben? Logg Dich Hier ein.

Code:

Code neuladen

Kommentare
(0)

Bitte bleibe sachlich und fair in deinen Äußerungen. Sollte dein Kommentar nicht sofort erscheinen, ist er in der Warteschlange gelandet und wird meist zeitnah freigeschaltet.



Kommentare:

Du hast bereits für diesen Kommentar angestimmt...

;-)


© by Ress Design Group, 2001 - 2024

Top