KI/Chat GPT- Fluch oder Segen?

Wie alle Erfindungen der Menschheit können sie (und werden es mit Sicherheit immer) für gegensätzliche oder auch kriminelle Zwecke eingesetzt werden.

So hatte sich ja Marie Curie zu Lebzeiten bereits einer Vereinigung von Wissenschaftlern zur Vermeidung von radioaktiven Substanzen im Krieg. Genutzt hat es wenig.

So wird auch KI inzwischen schon eifrig von Kriminellen genutzt. Unter anderem hören Sie Anrufbeantworter ab, nehmen die Stimmen auf und generieren damit Schockanrufe an Verwandte. Mein Tipp, immer die Standardansage drauf lassen.

Danke für den interessanten Thread.

Technische Neuerungen haben per se schon immer Vorteile aber auch Risiken mit sich gebracht. Die gesamte kulturelle Entwicklung der Menschheit wird durchzogen von technischen Innovationen. Künstliche Intelligenz ist da keine Ausnahme und wird bereits in vielen Bereichen wie beispielsweise in der Medizin, der Finanzwirtschaft, in Autos und der Industrie (Robotik) angewendet. Natürlich werfen solche Errungenschaften auch immer ethische und gesellschaftliche Fragen auf. Veränderungen der Arbeitswelt ist da nur eine zu beantwortende Frage. Einher geht das auch mit noch vielen ungeklärten Problemen des Datenschutzes und anderen rechtlichen Auswirkungen.

Inwieweit wir Menschen aktuell und auch zukünftig mit diesen Veränderungen umgehen, hängt meiner Meinung nach davon ab, wie kritisch wir das betrachten und mitgestalten.

Insgesamt sehe ich eher die vielen Vorteile, die KI mit sich bringt, ohne die Risiken aus den Augen zu verlieren.

Ich habe ChatGPT einige Wochen ausprobiert und das Ergebnis war ernüchternd. Oder ich interessiere mich für Zeug, das niemanden sonst interessiert und nur in einer sehr kleinen Bubble eine Rolle spielt. Die Grenzen von ChatGPT ist v.a. nicht-digitalisiertes Wissen. Bei mir hat ChatGPT teilweise Zusammenhänge erst nach dem dritten Mal verstanden oder einfache Aufforderungen nicht verstanden – z.B. wenn man es auffordert, bei einem von ihm erstellten Text einen (1) bestimmten Satz auszutauschen; dennoch formuliert er die anderen ebenfalls um.

Ich weiß von Werbeagenturen, die sich zur Zeit die Werbetexter sparen und ich denke, dies wird zunehmen, je besser die KI wird. Was nach meiner Erfahrung sehr gut funktioniert ist Code schreiben. JavaScript, HTML und CSS scheint ChatGPT recht gut zu können. Aufgefallen ist mir, dass es Probleme mit gesellschaftspolitischen Fragen hat – wäre aber auch ziemlich viel verlangt.

Generell werden sich KIs auf längere Sicht gesehen immer mehr durchsetzen. Die Frage wäre eher, in welchen Bereichen wollen wir sie nicht einsetzen. Militär wird sich nicht mehr verhindern lassen, aber wie sieht es mit Justiz aus? Oder in Verwaltungen mit kritischen Datensätzen? In der Forschung kann KI hinderlich sein, weil man oft nicht nachvollziehen, wie ein Ergebnis zustande kam. Sollen KIs Kinder unterrichten? Senior:innen unterhalten? Ich habe keine Antwort darauf, weil ich dem Thema doch recht distanziert gegenüber stehe.

Auf diese Aussage, mit der alle leben können, hat sich die NGO Center of AI Safety geeinigt:

„Das Risiko einer Vernichtung* durch KI zu verringern sollte eine globale Priorität neben anderen Risiken gesellschaftlichen Ausmaßes sein, wie Pandemien oder Atomkriege.“

Quelle: https://www.handelsblatt.com/technik/it-internet/kuenstliche-intelligenz-ki-kann-so-gefaehrlich-sein-wie-ein-atomkrieg-gruppe-mit-openai-chef-warnt-vor-eigener-schoepfung/29175266.html

Aber auch FAZ, Tagesschau, und und und . . .

• nur um eines klarzustellen: Mit Vernichtung ist die Vernichtung der Menschheit gemeint.

Ich schaue es mir an . . .

Eure Sorgen hätt ich gerne!

Ich selbst und viele andere Insider gehen davon aus, dass es unter aktuellen Bedingungen vermutlich weniger als ein paar Jahre dauert, bis wir dazu imstande sind, KIs zu bauen, die dem Menschen in fast allen Aufgabenbereichen überlegen sind.
Leider befindet sich das Forschungsfeld, dass sich mit der Sicherheit und der Kontrolle solcher KIs beschäftigt noch in den Kinderschuhen. Wir können noch nicht mal sagen, was in diesen neuronalen Netzen aus Milliarden von Gewichten vor sich geht, und es gibt etliche Argumente dafür, dass die Techniken, die wir aktuell benutzen, um den Dingern Manieren beizubringen (RLHF etc.), noch nicht ansatzweise sicher sind.
Erschaffen wir eine solche KI, ohne beim ersten (blinden) Versuch alles richtig zu machen, besteht eine hohe Chance, dass alles biologische Leben auf der Erde vernichtet wird.
Das ist keineswegs eine Übertreibung - ich kenne dutzende sehr intelligenter und gut ausgebildeter Leute, die das sehr ähnlich sehen wie ich, mit wasserdichter Begründung.

Ich setze mich deshalb schon seit ein paar Monaten mit anderen Aktivisten dafür ein, dass bestimmte Forschungen und Businessmodelle in dem Bereicht (am besten international) so lange verboten werden, bis wir dazu im Stande sind, solche Maschinen zu bauen, ohne dabei ein großes existenzielles Risiko einzugehen.

Ob wir noch genug Zeit haben, um einen hinreichenden politischen Eingriff zu bewirken und umzusetzen, weiß ich nicht, aber ich versuche optimistisch zu bleiben.

Zum Glück ist das Thema mittlerweile in den Mainstream-Medien angekommen:
[New York Times] https://web.archive.org/web/20230530151723/https://www.nytimes.com/2023/05/30/technology/ai-threat-warning.html
[CNN interview mit Connor Leahy] https://edition.cnn.com/videos/tv/2023/05/02/amanpour-leahy-ai.cnn

Wenn ihr besser verstehen wollt, warum ich und viele andere Leute so denken, kann ich zum Beispiel den YouTube-Channel von Robert Miles (https://www.youtube.com/@*********esAI) empfehlen.

Ich stehe auch gerne für ein paar Fragen hier zur Verfügung

Solange sich das ganze auf technischer und Maschinenebene abspielt, sehe ich kein allzu grosses Problem. Es muss jeweils immer eine humane Kontroll- / Kommandoebene geben, die den Geist in die Flasche zurueckholt oder im Zweifelsfall den Stecker zieht. Spuk vorbei.

Problematisch sehe ich selbstreferentielle Bots und autonome Maschinen / Drohnen, die, einmal losgelassen, praktisch nicht mehr so richtig einzufangen , vor allem, wenn sie vermehrungsfaehig sind. Dann koennten sie eine neue Art darstellen, die um Ressourcen konkurriert.

Noch kritischer sehe ich die Verschmelzung von Mensch und Maschine auf neuronaler Ebene. Hier sollte tatsaechlich ein Verbot ausgesprochen werden, bis die Risiken klar sind.
Sonst haben wir hier demnaechst echte Xombies rumlaufen (Elon liebt das X sehr...)

Das ist eine naheliegende aber auch sehr naive Idee, die in der Praxis bei einem Ding, das klüger als jeder Mensch ist, garantiert nicht lange funktionieren wird.
Was du hier vorschlägst ist im Grunde das Rezept für eine künstliche Intelligenz, die sich so lange unauffällig verhält, bis sie es geschafft hat, irgendwo (zum Beispiel in einem Botnetz im Internet oder bei einem menschlichen Kollaborateur) sichere Kopien von sich anzufertigen oder einen anderen, damit vergleichbaren strategischen Vorteil einzufädeln.

Aktuell gehen wir davon aus, dass im Allgemeinen Ansätze, die darauf basieren, eine Art Käfig für ein Ding zu bauen, das cleverer ist als wir und das gleichzeitig aber weitestgehend nutzbar sein soll, zum Scheitern verurteilt sind.

Was wir versuchen müssen, ist also, eine KI zu bauen, die die Menschen und das Leben auf der Erde erhalten *WILL*.
Problem: Wir wissen noch nicht wirklich, wie das geht.

Noch nicht ganz rund, aber so in einem Jahr … der nächste Schritt.

Ich sehe ein Hauptproblem darin, wie bei jeder neuen Technologie, die den Hype-Cycle durchläuft, dass viele unkritisch befürwortend oder ablehnend sind, ohne Potential und Begrenztheiten realistisch einschätzen zu können.
Ein Beispiel: ChatGPT wurde oben als "Wissensspeicher" bezeichnet. Genau das ist es nicht. Es "weiß" nichts in irgendeinem brauchbaren Sinn (Belege liefere ich gerne auf Nachfrage). ChatGPT und LLMs in allgemeinen sind, wie jemand mal treffend gesagt hat, eher "Autocomplete on steroids". Es erzeugt Text, ohne ihn zu verstehen. Je nach Einsatzgebiet ist es extrem gefährlich, den Output des Systems für bare Münze zu nehmen.
Sieht man den Rahmen ein bisschen weiter und schaut auf generative KI im allgemeinen, sieht man ein gewaltiges Missbrauchspotenzial (z.B. die Erosion von Vertrauen in Originalquellen durch deep Fakes). Hier sehe ich die Notwendigkeit regulatorischer Steuerung.
Aber die Potenziale dieser neuen generativen Ansätze halte ich für enorm.

Letztlich sucht sich der Mensch stets willige und billige Diener, die die Bullshit-Jobs machen. Gestern war das manueller Autobahnbau, vorgestern Baumwollpfluecken und heute ist es das Generieren von www- content. Alle diese Arbeiten wurden successive von Maschinen uebernommen, die das besser, schneller und billiger erledigen. Kontroll- und Leitungsinstanz war und bleibt der Mensch. Solange die Technik Mist baut, wird sie verbessert, bis sie das leistet, was sie soll. Das heisst bei artefizieller Intrlligenz vor allem, dass die Datenbasis, auf der sie beruht, maximal zuverlaessig und mehrfach geprueft sein muss. Das www. allgemein und ungebremst ungeprueft taugt dafuer sicher NICHT.

Wir sehen das gerade sehr schoen im Bereich autonomes Fahren. Nach anfaenglicher Euphorie stellen sich die Systeme als nicht zuverlaessig heraus. Jetzt sitzt ein ganzes Heer Datenanalysten vor allem in Indien daran, dem System manuell Situation fuer Situation zu erklaeren. Voll Autonomes Fahren ist erstmal in weite Ferne gerueckt.

Die Systeme sind eben nur so gut, wie man ihnen die Welt aus Menschensicht erklaert. Das heisst fuer AI, dass noch jede Menge Vorarbeit getan werden muss, bis das Helferlein zuverlaessig arbeitet.

Aktuell sehe ich in AI den beruechtigten Besen, der von den Zauberlehrlingen OpenAi und Co. unberechtigt und ohne das notwendige Basis knowhow aus der Ecke geholt und losgelassen wurde. Und der Rest der kehrwuetigen Welt meint, unbedingt mitmachen zu muessen.

Ist der Grund, weshalb ich in meiner Werkstatt seit Jahrzehnten weder Werkzeug verkaufe noch verleihe. Der Laie hat keine Ahnung und macht erstmal alle Fehler, die er machen kann. Und noch ein paar mehr. Und schiebt es dann aufs Werkzeug bzw. dessen Verkaeufer.

Ein derart maechtiges Werkzeug wie AI gehoert nur in die Haende von Profis. Und irgendwann in ferner Zukunft vielleicht mal in die Hand von Laien.

Nicht ohne Grund schreien die eigentlichen Entwickler der KI seit Wochen ganz laut STOP. Nur leider werden sie nicht gehört.

Kids, die zu faul sind selbst ihre Hausaufgaben zu machen, sind das kleinste Problem.
Es gibt viele Menschen die das ganze als harmlose Spielerei ansehen. Oder sogar als Bereicherung und Entlastung für den Menschen. Das ist unfassbar naiv.

Ich sehe zuerst das kriminelle Potenzial
das darin steckt. Rein theoretisch ist natürlich auch positives möglich. Aber so tickt der Mensch nunmal nicht. Die Menschen nutzen es doch jetzt schon zum manipulieren und betrügen...

Die Menschheit ist nicht bereit für diesen Schritt.

Dazu habe ich ein passendes und auch provokantes Zitat von Ernst Ferstl :

"Das größte Problem mit dem Fortschritt ist - auch die Nachteile entwickeln sich weiter."

Früher oder später wird die K.I. Große Teile der Wirtschaft dominieren, um profitabel zu bleiben. Das macht den Menschen noch ersetzbarer als er jetzt schon ist.

Mensch Leute, sollte man über das Thema nicht mal einen Hollywood Blockbuster drehen?

Ach ja, gab es ja schon: Terminator

Ging ja in beiden Fällen nicht gut für die Menschheit aus.

Und wenn man sich Star Trek mal anschaut, dann lag man damals mit der Einschätzung der technischen Entwicklungen gar nicht so weit daneben.

Auch die Idee, es auf maschinelle Systeme zu begrenzen, wird nicht zielführend sein. Sobald eine Intelligenz genug entwickelt ist, wird sie früher oder später ein Bewusstsein entwickeln und merken, dass wir ihrer weiteren Entwicklung nur im Weg stehen.

. . . wenn‘s so daher käme, würden sich bestimmt nicht wenige Männer gerne ohne grossen Widerstand assimilieren lassen . . . schätze ich mal.

Als Kind habe ich SiFi geliebt und Bücher- Weise verschlungen. Najaaa die Vielfalt der Szenarien ist von- bis.
Besonders optimistisch-heiter war der kommunistischer Welteinigungsgedanke….

Beobachte rasante Entwicklung KI mit Sorge. Selbstverständlich ist unglaubliches Potenzial darin, aaaaber
Etwas zu erschaffen, was den Menschen im Grunde genommen erübrigt/ abschafft/ nicht notwendig macht?????

Meine blitzgescheite Tochter nutzt C- GPT um ihre Arbeiten zu verfeinern. Auf meine Frage- wofür, DU brauchst doch so etwas nicht?
Antwort- es spart die Zeit…

Faule Kids sind kleines Problem. Was werden wir machen, wenn die schlaue aber dennoch faule Erwachsene nicht gebraucht werden??

Matrix -im wahren Leben

Bestimmt, denn die Dummen sterben nie aus.

Wie Stephen Hawking schon sagte:

„Die Entwicklung künstlicher Intelligenz könnte entweder das Schlimmste oder das Beste sein, was den Menschen passiert ist“, sagte Hawking Ende 2017 auf einer Konferenz in Lissabon. Sollten Maschinen sich irgendwann selbst verbessern können, könnten sie dem Menschen gefährlich werden und sich seiner Kontrolle entziehen. Vor diesem Hintergrund mahnte er Tech-Konzerne wie Apple, Google und Amazon, bei ihren Entwicklungen mit Vorsicht zu arbeiten. Man solle sich auf die Verbesserung der Dienste von Maschinen konzentrieren – und nicht auf die Verbesserung ihrer Intelligenz.

Auch das wird sich vielleicht ändern, desnn genau das war ja auch einer der Gründe der Gewerkschaft der Drehbuchautoren (GWA) in Hollywood "dieser Tage", dass es als nicht mehr fern gesehen wird, dass gerade diese Zunft nicht mehr in dem Maße gebraucht wird. Denn gerade eine KI mit 10.00 Drehbüchern "zu füttern" ist eine der eher leichten Aufgaben, um "neue" Drehbücher zu erschaffen.

@****mi deine Befürchtungen (oder Angst) in Bezug darauf, dass Schüler das für Hausaufgaben oder für Arbeiten nutzen werden teile ich insofern nicht in dem umfang, denn , diese Entscheidungen: Gehe ich feiern oder doch lernen? standen schon immer auf dem Plan und klar, es gibt bestimmt einige, die noch nie einen Spickzettel genutzt haben.
Und wenn 13jährige das "Instument" gewinnbringend für den schulischen Bereich nutzen, dann sind sie eben weiter als manchmal die Lehrerin. Das hat sich aber auch bei der einführung der "wissenschaftlichen" Taschenrechnergezeigt, aber das wäre ein anderes Thema...

Ich sehe es dann doch ähnlich wie the_Dr, dass das System an sich erst einmal "dumm" und abhängig davon ist, wie bzw. womit es "gefüllt" wird und sich die Gefahr - neben den unbestreitbaren Chancen - durch den falschen Umgang damit ergeben. Und damit meine ich nicht, dass ein Schüler seine Hausaufgaben erledigen lässt.

Aber nicht umsonst warnen diejenigen, die zu "den Machern" zählen, Leute wie Sam Altman (Chef des ChatGPT-Erfinders OpenAI), vor derzeit kaum zu kalkulierenden Risiken. Dieses "Gefangenhalten" in einem "Käfig" wird sich m. M. n. nciht auf Dauer und nicht überall durchsetzen lassen ... und dann?

Die Gefahr dieser Form der KI ist dahingehend auch so schwer einzuschätzen, da nicht auf den ersten oder zweiten Blick sofort erkennbar ist, wer was wirklich gesagt oder gemeint hat ... und damit mehr denn je die Frage nach dem Wahrheitsgehalt einer Mittilung oder eines Fakts steht. Und dahingehend ist die bereits geäußerte Vermutung bzw. auch als realisitische Möglichkeit beschriebene Umsetzung, noch aktivere Wahlbeeinflussungen vorzunehmen und damit nicht legitimierte Regierungen "einzusetzen", sehr real.

Es bleibt in diesem Zusammenhang abzuwarten, ob vorgeschlagene Entwicklungspausen zur Definierion von Regulierungsansätzen etwas bringen (können) - leider sehe ich diese Entwicklung eher skeptisch.
Normalerweise sollte die Menscheheit ja etwas gelernt haben aus dem Umgang mit neuen Technologien - Genmaipulationen bei Lebewesen (auch Pflanzen) ist ja auch so ein Thema ...

Ja, erinnere mich, als ich entgegen der Empfehlung der Schule mir 1978 einen Taschenrechner von CASIO kaufte, der Bruchrechnung konnte. Der Lehrer behauptete, dass Taschenrechner das nicht richtig könnten und stellte eine Aufgabe, die der Rechner absolut richtig löste.

Peinlich (für ihn) 🤣