KI im Alltag: Anwendungen, Vorteile und Herausforderungen

Die Zukunft der AI?

Mit den vielen Möglichkeiten, die KI-Modelle mittlerweile anbieten, steigt auch das Risiko von Missbrauch und Attacken.

Folgende Regeln helfen diese zu verhindern oder zumindest Risiken zu vermindern:

1. Gebt in Prompts oder Anweisungen an die KI nie euren Klarnamen oder sonstige persönliche Daten an. Auch dann nicht, solltet ihr von der KI dazu befragt werden.

2. Sollte in einer Antwort der KI irgendwann mal ein Link auftauchen und die KI verspricht euch eine Belohnung dafür, auf keinen Fall anklicken. Auch nicht um mal zu schauen, was dann passiert.

Ich wüsste nicht, warum das passieren sollte, aber für solche Fälle gibt es z.B. https://urlscan.io/

@********ette Die Stichworte dazu sind: Jailbreaking, Prompt-Injection, Data Exfiltration

Was ist das, Buzzword-Bingo?
Die eigene KI Instanz zu überlisten bedeutet noch lange nicht, dass man es in den Kontext einer anderen User Instanz schafft.

Ich lasse euch mal nen Link da von einer Doku, die ich neulich mir angeschaut habe:

In der geht es darum, dass man mittels KI Tierstimmen analysiert und auch Tiermimiken (von Schweinen), um herauszufinden, wie glücklich, zufrieden, ... diese Tiere sind. In den verschiedenen Arten der Tierhaltungen.

https://www.ardmediathek.de/video/Y3JpZDovL25kci5kZS9wcm9wbGFuXzE5NjM0NjE0MV9nYW56ZVNlbmR1bmc