schaf am 17. Sep. 2022 um 13:54 |  0 Kommentare | Lesezeit: 35 Sekunden

OpenAI: GPT-3-Chatbot gibt manipulierte Nachrichten aus

Chatbots sind oft über Tricks manipulierbar. Eine neuer Angriff auf das Modell GPT-3 zeigt, wie einfach das sein kann.

Sicherheitsforscher, interessierte Nutzer und wohl auch schlicht Witzbolde haben in den vergangenen Tagen einen Chatbot auf Twitter dazu gebracht, eigentlich nicht vorgesehene Mitteilungen zu posten. Bei dem Bot handelt es sich um einen Account, der dafür gedacht ist, positive Nachrichten in Bezug auf Remote-Arbeit zu verbreiten. Den Nutzern gelang es aber durch einen Trick, dem Chatbot beliebige Nachrichten zu entlocken, wie Ars Technica berichtet.

Der Bot basiert auf dem Spracherzeugungsmodell GPT-3 von OpenAI, das vielfach genutzt wird und unter anderem auch kommerziellen Kunden über eine API bereitsteht. Auf diese greift auch der betroffene Bot zu.

Mehr dazu findest Du auf golem.de


Autor schreiben




Kurze URL:


Bewertung: 3.5/5 (6 Stimmen)


Das könnte Dich auch interessieren:


Ähnliche News:
Beschwerde gegen OpenAI wegen Halluzinationen von ChatGPT
ChatGPT-Entwickler OpenAI präsentierte Programm zum Klonen von Stimmen
Microsoft und OpenAI sollen KI-Rechenzentrum für bis zu 100 Milliarden Dollar planen
OpenAI plant im Sommer GPT-5 Veröffentlichung
Sora: Aufsehenerregendes KI-Video-Tool von OpenAI wird noch heuer veröffentlicht
OpenAI-Chef Altman kehrt in Verwaltungsrat zurück
Immer mehr Nachrichtenorganisationen verklagen OpenAI und Microsoft
OpenAI greift NYT im Urheberrechtsstreit an
OpenAI-Chef befürchtet negative Auswirkungen von KI auf Wahlen
OpenAI ist jetzt 80 Milliarden Dollar wert


Weitere News:
Google Docs sperrt Romanautorin aus
Kritische Gitlab-Schwachstelle wird aktiv ausgenutzt
Linux-Tool: Neofetch wird nicht mehr weiterentwickelt
Microsoft verbietet Polizei den Einsatz seiner KI-Dienste
iPhone-Absatz bricht um über zehn Prozent ein
Polizei durchsucht 12 Callcenter und verhaftet 21 Personen
Die Grosse Wartung Mai 2024
SGI ICE XA: Ehemaliger Top-20-Supercomputer wird versteigert
Huawei soll im September einen M3-Konkurrenten haben
AWS-S3-Bucket: Kostenexplosion durch nicht autorisierte Anfragen


Einen Kommentar schreiben

Du willst nicht als "Gast" schreiben? Logg Dich Hier ein.

Code:

Code neuladen

Kommentare
(0)

Bitte bleibe sachlich und fair in deinen Äußerungen. Sollte dein Kommentar nicht sofort erscheinen, ist er in der Warteschlange gelandet und wird meist zeitnah freigeschaltet.



Kommentare:

Du hast bereits für diesen Kommentar angestimmt...

;-)


© by Ress Design Group, 2001 - 2024

Top