KI/Chat GPT- Fluch oder Segen?

Genau : RisikoBEURTEILUNG. Eine von menschlichem Geist mit allen seinen Schwaechen vorgenommene Einschaetzung.
Das laesst sich gerade sehr schoen an der Aussage vieler wichtiger Menschen zum Thema Energieb3schaffung zeigen. " Wir haben uns in der Einschaetzung Russlands als sicherem, friedlichem Energielieferant gravierend geirrt ".

M.E. wird gerade K.I. gehypt, was das Zeug haelt, um moeglichst viele unbedarfte User zum Mimachen und Trainieren der Systeme zu bewegen. So wuerde ich es machen, wenn ich Inhaber eines K.I.- Systems waere und bereits ein paar Millionen investiert haette, die sich zuegig amortisieren sollen. Nie Vergessen : Hinter jedem System steckt ein Owner mit ureigensten Interessen. Und die sind im Zweifel primitiver finanzieller Art. Wir werden demnaechst alle mit noch spezifischerer Werbung ueberschwemmt werden.

Das Beruhigende daran ist : Wenn KI Mist baut und Schaden anrichtet, wird es laufen wie mit Hundebesitzern : Ab vor den Kadi und Schadenersatz leisten. Ich vertraue deshalb auf die heilsame Kraft des Versicherungsgewerbes.
Sie werden fuer unliebsame Folgen einer wild gewordenen KI einfach nicht zahlen wollen. Und was nicht versicherbar ist, wird auch nicht gemacht. Da sind die Milliardaere sehr sparsam.

@********grau wg. Beleg: Frag ChatGPT mal bitte Folgendes:
"Ich habe einen 5 Liter Behälter und einen 12 Liter Behälter. Wie kann ich genau 5 Liter abmessen?"
Du wirst aus dem Lachen nicht herauskommen. Grund für den Schwachsinn:
ChatGPT basiert auf einem "Large Language Model", nicht auf einem "Large World Model". Es (re-)produziert sprachliche Strukturen, und diese Reproduktion ist - sehr grob vereinfacht - gesteuert durch ein Wahrscheinlichkeitsmodell, welches Wort wohl als nächstes kommt. Jemand hat LLMs mal als "autocomplete on steroids" bezeichnet, ich finde sehr treffend.
In dem Maße, in dem Sprache natürlich Wissen ausdrückt, ist im Output von ChatGPT natürlich Wissen enthalten, aber dieses Wissen befähigt das System nicht dazu, Schlüsse zu ziehen oder neue Erkenntnisse zu gewinnen.

Derartig gemeine und schwierige Fragen zu stellen ist ja auch unfair

Jetzt muss ich Wochen drüber grübeln

Stimmt @******una .
Die Antwort klingt von außen betrachtet dennoch sehr profund:

Ist natürlich schwachsinnig, daher eine Rückfrage:
"Wäre es nicht einfacher nur 5 Liter in den 5 Liter Behälter zu füllen?"

Antwort:

Das ist falsch und frech.

Eine weitere Hoffnung ist beim Thema KI die stets neuen Geschaeftsfeldern aeusserst aufgeschlossene Jutidprudenz. Insbesondere die US - amerikanische. Sie ist zwar nicht die Schnellste, aber sehr effizient. Ich erinnere an den Dieselskandal.

Da sitzen bereits grosse Kanzleien in den Startloechern und freuen sich auf die Uebernahme fetter Sammelklagen gegen die Owner von KI / AI - Programmen.

Das Thema autonomes Fahren hat eben jene
Zunft durch eifrige Intervention stark gebremst und geerdet, wie mir aus berufenem Munde zugetragen wurde. Bevor nicht allerhand juristische Grundlagen gelegt und allfaellige Fragen geklaert sind, wird autonomes Fahren auf hoechstem Level nicht versicherbar sein und entsprechend hierzulande auch nicht stattfinden.

Und genau dasselbe wird mit KI / AI geschehen.
Ein dicker Hund und Microsoft und Konsorten sind ihre Milliarden schlagartig los. Wetten ?

Soll natuerlich Jurisprudenz heissen. Ich harre sehnlichst der Zeiten, wo eine KI meine Vertipper voellig autonom zu 100% in meinem Sinne korrigiert...

Dazu habe ich eine völlig andere Meinung. aber da das nicht Thema dieses Threads ist, lassen wir das lieber.


Da stimme ich Dir voll und ganz zu.

Das mit dem Schummeln ist natürlich ein anderes großes Thema.

Wenn ich heute 13 wäre, würde ich wohl auch Chat GPT nutzen, um die Hausaufgaben für mich erledigen zu lassen.
Es ginge mir dabei nicht darum, gar nicht mehr zu lernen und mich auf die KI zu verlassen ...
Vielmehr ginge es mir darum, meine Möglichkeiten, die Lehrer, das System und die ganze Welt auszutricksen, zu optimieren.

Die Methode dazu zu erlernen und zu optimieren, wäre mein Ziel gewesen.
Beim erlernen von Methoden, profitiert der eigene Intellekt, denke ich, deutlich mehr, als beim Aneingenen von Wissen, durch Lesen von Textbüchern.
Insofern bin ich immer noch optimistisch, dass es einen gemeinsamen Weg für Mensch und KI geben kann.

Damals waren die Methoden natürlich noch ganz andere, wir saßen an einem kleinen Bach und hatten ca. 20 min Zeit, jeder packte seine Hefte aus und dann wurden fehlende Informationen und Hausaufgaben ausgetauscht, (fast) jede(r) hatte etwas beizutragen und etwas mitzunehmen. Die Fakten und das Schwarmwissen waren recht begrenzt, aber die Gelegenheit, dabei emotionale Intelligenz zu entwickeln, war nahezu unbegrenzt.

Aktuelle Veroeffentlichung von Prof. Sandra Wachter aus Oxford : Warnung vor KI ist reine PR. Sehr lesenswert und praezise erhellend....

Nachtrag zu "Belege", aber auch sonst einschlägig: Ein schöner Artikel der Washington Post: https://www.washingtonpost.com/technology/2023/05/30/ai-chatbots-chatgpt-bard-trustworthy/?wpisrc=nl_most&carta-url=https%3A%2F%2Fs2.washingtonpost.com%2Fcar-ln-tr%2F3a2844e%2F64761e9149fef7411dfab0b3%2F59726031ae7e8a1cf4a77b1b%2F36%2F70%2F64761e9149fef7411dfab0b3
Zitat daraus:

Wir müssen natürlich erst einmal grundsätzlich bereit sein, Neues zu akzeptieren und nicht von vornherein zu verteufeln. Nur so haben es die stinkenden und dampfenden Vehikel entgegnen allen Anfeindungen geschafft, als Lokomotive oder Automobil "anerkannt" zu werden.

Aber das System der KI sehe ich dann doch etwas anders und ich kann diesen "Tipp", einfach mal den Stecker zu ziehen, nur als Verzweiflung werten. Ich hatte die von Cranksy angesprochene Veröffentlichung inhaltlich schon vorher gelesen, sehe das aber nicht als "Beweis" dafür, dass wir uns in aller Ruhe zurücklehnen könnten. Gedankliche Zeiträume sollte man dahingehend nie zu kurz fassen, denn die Aussage, "derzeit" keine Bedrohung o. Ä. hilft nicht wirklich. Gedanken im Umgang damit muss man sich jetzt machen. Auch sehe ich die Warnungen der Macher doch als etwas ambivalent an, denn … warum jetzt? … warum überhaupt? Sie haben doch die Forschung in diese Richtung angeschoben und mit Vehemenz vorangetrieben und mussten bereits im Vorfeld die Ziele definiert haben. Es war ja kein Zufallsfund wie eine Höhlenzeichnung…

Den Bezug zum Versicherungsgewerbe, die werden das schon richten, denn was nicht versicherungsfähig ist, wird schon nicht auf den Markt kommen, halte ich persönlich für sehr weit hergeholt und nicht nachvollziehbar. Auch derzeit gibt eine große Anzahl Selbstversicherer und auch die Versicherungswirtschaft wird natürlich darauf aufspringen, zumal ich eher davon ausgehe, dass durch „intelligentere Systeme“ die zu begleichenden Schäden z. T. in Größenordnungen und damit das Marktpotential zurückgehen könnten - wenn ich da nur an das autonome Fahren denke. Da kommen neue Risiken doch gerade recht, auch wenn das noch nicht verifizierbar ist. Die Versicherungen werden auch dazu schon Folgenabschätzungen vorgenommen haben und vorbereitet sein.

Die derzeit so z. T. gehypten Arten der KI-Systeme sind vielleicht ein "schöner Gimmick“. Aber auch dabei sollte die Dummheit der Menschheit nicht unterschätzt werden, denn erst einmal verarbeitet das System nur die Informationen, die „wir“ dem System zukommen lassen … und schafft daraus neue „Erkenntnisse“, eine Verknüpfung von unterschiedlichsten Ebenen und dem System vorliegenden Materialien. Aber ob „die Menschheit“ - so abstrakt das auch erst einmal klingen mag – mit diesem Werkzeug verantwortungsvoll … auch dauerhaft … umgehen kann, wage ich insgesamt zu bezweifeln. Und das stellt die eigentliche „Unbekannte“ bzw. Gefahr dar.

Die Systeme sind ja dahingehend nur "Verarbeiter", können zumindest nicht verstehen, ob sie selber „Unsinn schwafeln“ oder nicht. Sie bewahren damit andere nicht davor, einem Missbrauch (durch Menschen in diesem Fall) der noch nicht mal abzuschätzenden Möglichkeiten ausgesetzt zu werden. Nicht nur Deepfakes sind da in aller Munde … und ich weiß auch nicht, ob die „Society of Minds“-Methode, die in dem vorgenannten Washington Post-Artikel propagiert wurde, die Lösung sein könnte. Derzeit zweifle ich noch sehr an der Verantwortungswahrnehmung der Macher und der Gesellschaft im Allgemeinen - nicht an einer grundsätzlichen Sinnhaftigkeit, wenn es denn gut gemacht wäre…

Diese Risiken sind seit 10-20 Jahren bekannt - es ist keineswegs so, dass die KI jetzt spontan verteufelt wird, zumindest nicht von den Leuten, die wissen, was sie tun, und schon seit 10 Jahren davor gewarnt haben.
Der Grund, dass jetzt von denen (z.B. von Eliezer Yudkowsky) eine PR-Lawine losgetreten wird, ist pure Verzweiflung angesichts der Tatsache, dass wir vermutlich nicht mehr viel Zeit haben.

In meinen Augen nur ein weiterer Beweis dafuer, dass hier im Augenblick eine sehr unausgereifte Technik gehypt wird. Da werden wir noch allerhand DarwinAwardWuerdiges erleben...

"Vorbeugen" ist aber auch hier besser als "nach-hinten-fallen".
Das Motto "Ich bin "durch" und meine Kinder auch" wäre in dem Sinne eine Kapitulation. Insofern werden die Hinweise und Warnungen von Panoramagrau völlig zurecht vorgebracht, damit aus den "Gedankenspielen" keine realen Aktionen werden.
Die Schranken müssen vorgegeben werden, sinnvolle Anwendungen müssten möglich sein ...

Und schon wären diese "philosophischen Kategorien" wieder einem Diskurs zu überlassen ...

@****mi dazu kann aber gesagt werden, dass die Deutsche Einstellung zu diesen Themen insgesamt nicht sonderlich wichtig ist - wir sind jetzt nicht gerade eine Technologiehochburg und es ist erstmal am wichtigsten, was z.B. in den USA zu diesem Thema passiert.

in den 1990ern dachten Wissenschaftler, in dem "Human Genom Project" könne der Mensch sich selbst erklären. Klappte nicht, inzwischen leben wir in der Zeit der Epigenetik. Es wäre ein guter Ansatz, das Wort "Intelligenz" genauer zu definieren, z.B. im Sinn von meschlicher Intelligenz (inclusive emotionaler IQ) und nützlicher Maschine.

Das Internet ist ok, ich wuchs in einer Zeit auf, in der der "Brockhaus" als dickes Lexikon physische Realität in den Wohnzimmern der Bildungsbürger war. Menschen über (ca.) 25 Jahren haben noch andere Grundideen über Medienkompetenz gelernt, bei den Jüngeren verschwimmt zunehmend die Grenze zwischen analog und real. In meiner Praxis sehe ich zunehmend junge Patienten, die kaum noch Zugang zu ihrem Körper haben, noch nie Partnerschaften oder Sex hatten, mimisch maskenhaft sind, aber emotional wie im "echten Leben" leiden, wenn eine rein virtuelle Beziehung scheitert.

Vielleicht läuft es mit der KI wirklich wie bei "Skynet" in den Terminator-Filmen, vielleicht läuft es mit den jungen Menschen zunehmend wie in "Schöne neue Welt" von Huxley, das nennt man dann in beiden Fällen Evolution.

Kann KI Sex? Ich meine die "Sache", derentwegen wir auf JOY sind. Worte sind nicht die Dinge ansich.
Wenn wir dies begreifen kann KI sogar als sinnhafte Projektionsfläche für menschliche Selbstreflexion aufgefasst werden.
Kleiner Tipp dazu: In jeder echten (analogen) Unterhaltung sind Worte keine reinen "Sachaussagen". Wir erkennen die emotionale Verfassung des Gegenübers auch IN der Sprache. Ich sehe die Gefahr, dass sich für junge Leute die Grenzen zwischen analog und virtuell zunehmend verwischen, ich bin zu alt für so einen Scheiß. Für mich ist mein Fernseher "KI". Da wird übrigens auch gesprochen...

Gerade in der NZZ gelesen : Ein NY -Bundesgericht erwaegt Schritte gegen eine Anwaltskanzlei, die Praezedenzfaelle im Fall der Knieverletzung eines Fluggastes von ChatGPT recherchieren liess. Die Richter konnten die Praezedenzfaelle aber in den ueblichen Datenbanken ausfindig machen. Das Ganze war vom Chatbot sogar mit frei erfundenen Querverweisen unterfuettert worden.
Sieht ganz so aus, als wuerde KI erstmal mehr Arbeit machen als tatsaechlich uebernehmen 😉

Korrektur: In den ueblichen Datenbanken NICHT ausfindig machen.

Der Chatbot kann einfach nix.

@****ksy wenn es schon soweit wäre, dass die Bots ohne menschliche Kontrolle die meisten Arbeiten übernehmen könnten, dann wären wir vmtl. schon so gut wie tot. Die Gründe dafür sind ein bisschen komplex - wenn es jemand genau wissen/verstehen möchte, dann mache ich mir aber auch gerne die Mühe, es ausführlicher zu erklären.

Ich habe hier nie behauptet, dass das o.g. schon der Fall wäre - ich denke wir können das Disaster jetzt noch stoppen, WEIL wir noch ein bisschen von künstlicher Superintelligenz (kann fast alles besser und schneller als ein Mensch) entfernt sind.
Wir sind allerdings scheinbar so dicht dran, dass jeder weitere Schritt in diese Richtung gefährlich ist, Tendenz steigend.
Niemand weiß tatsächlich, wie weit wir noch davon entfernt sind - und theoretisch könnten wir vor der letzten Hürde stehen, die, wenn beseitigt, innerhalb kürzester Zeit zur Superintelligenz, und in Ermangelung unserer aktuellen Unfähigkeit, sowas zu kontrollieren, zu unserer Vernichtung oder in ein anderes dystopisches Szenario führt, das wir nicht mehr stoppen können.