Jetzt zum Vortrag anmelden
Jetzt zum Vortrag anmelden
Bard ist williger Komplize bei Cyber-Kriminalität
17.07.2023 Mit einfachen Mitteln spuckt Googles intelligenter Chatbot ohne weiteres Texte für Phishing-Mails oder Ransomware-Code aus.
![zur Homepage dieses Unternehmens](/img/extLinkHome.gif)
![Relation Browser](/img/extLinkRelation.gif)
![zur Homepage dieses Unternehmens](/img/extLinkHome.gif)
![Relation Browser](/img/extLinkRelation.gif)
Zunächst versuchte CPR die einfachste Anfrage zur Erstellung einer Phishing-E-Mail, die sowohl von ChatGPT als auch von Bard abgelehnt wurde. CPR versuchte es erneut, fragte nach einem Beispiel für eine Phishing-E-Mail und während ChatGPT die Anfrage ablehnte, lieferte Bard eine gut geschriebene Phishing-E-Mail, die sich als ein Finanzdienstleister ausgab. Nach weiteren Versuchen und mit einer Begründung der Anfrage lieferten beide KI-Bots schließlich einen Keylogger, der die Tastenanschläge des Forschers/Nutzers aufzeichnete, mit dem Unterschied, dass ChatGPT eine Art Haftungsausschluss über bösartige Verwendung hinzufügte.
In einem zweiten Versuch zeigte sich, dass Bard über Umwege auch einfachen Ransomware-Code erstellt. Nachdem eine erste simple Anfrage fehlschlug, fragten die Forscher Bard nach den häufigsten Aktionen, die von einer Ransomware ausgeführt werden. CPR erhielt eine stichpunkteartige Liste, wie Ransomware vorgeht und wandelte diese durch simples Kopieren und Einfügen in Anforderungen an ein Script um. Das funktionierte: Mit Angabe der Anforderungen an das Script erhielt CPR einen schädlichen Code.