Ist künstliche Intelligenz eine Gefahr oder ein Segen?

@**C
Menschen denen das Navigieren schon immer schwer fiel, sind Navigationssysteme sicher eine wertvolle Hilfe.
Ich habe bei mir gemerkt, dass meine Fähigkeit mich in Städten und anderen Orten zu orientieren schlechter geworden ist, seit ich keine Karten mehr benutze (muss).
Ich habe mir wieder Karten gekauft und beginne die ab und zu zu nutzen.
Die gefahrene Strecke ist danach noch lange in meinem Gehirn. Bei der Nutzung eines Navis bleibt nur sehr wenig im Kopf hängen.
KI kann ein Segen sein, wenn sie uns von monotone Arbeiten entlastet.
Ob sie eine Gefahr wird liegt noch in unserer Hand.

@****era
Den von dir erwähnten Film kenne ich nicht, klingt aber echt gruselig.
Soweit sind wir zum Glück noch lange nicht.

@**********ede56

...die neuen Technologien sind nicht das Problem, es ist der Umgang mit ihnen. Viele nützliche Techniken
werden einfach nicht im Sinne der Erfinder angewendet. Die Gesellschaft macht sich total von ihnen
abhängig und lässt sich von ihnen versklaven. Ohne Internet ist unser Leben nicht mehr zu organisieren.
Fällt es aus, geht nichts mehr, keine Kasse im Supermarkt, der Verkehr steht still, das Krankenhaus
funktioniert nicht mehr. Fällt das Mobilfunknetz aus, ist es für viele eine Katastrophe. Ohne Navi kommen
manche nicht mehr von A nach B. Die KI ist eine tolle Technologie, aber ich befürchte, dass sie die Menschen noch abhängiger und unselbstständiger machen wird und wir stehen heute erst ganz am Anfang der Entwicklung...

@**********ede56

Unsere Moderne Zeit und die jetzt genutzte Technik kann toll sein.
Meine Tochter (42) verlässt sich zu 100 % auf ihr Navi. Und fährt damit Umwege weil das Navi behauptet. dass es der schnellere Weg sei. Karten lesen kann sie nicht mehr.

Geschicht lernen! Wozu? Wenn ich darüber etwas wissen will frage ich Google oder Wikipedia.
Lesen und schreiben wird immer mehr vernachlässigt. Man haut lieber auf WhatsDepp und anderen Plattformen Telegram Texte raus.

In der SZ = Süddeutsche Zeitung war ein sehr interessanter Artikel, warum KI zur Gefahr werden kann und reguliert gehört und zwar sofort. Nicht erst wenn das Kind in den Brunnen gefallen ist.
Z.B. die neuen Autos. Der dort installierte und vernetzte Computer meldet ungefragt an Hersteller und Andere ALLE Daten des Fahrzeuges. Also wirklich Alle. Wann und wohin gefahren wird, wie lange, wie schnell, wie oft geblinkt, gebremst wird, und, und und, Was Hersteller und Andere mit den Daten dann machen ist unbekannt. Es wird expliziede vor Chinesischen Autos gewarnt, denn die spionieren rumum aus. Kameras zeichnenn alles auf, es wird mitgehört, und, und und. Daten die zur Gefahr werden können. Das gleiche gilt für die Chinesischen Handys. Nicht umsonst ist Huawei und Xiomi inzwischen in den USA verboten. Die Amis vergessen dabei, dass Appel in China produzieren lässt.
Fazit: es kommt noch Einiges auf uns zu.

Noch vor wenigen Jahrzehnten waren "selbstlernende Systeme" (wie sie damals in meinem Arbeitsgebiet genannt wurden), die Software, die zu deren Entwicklung verwendet wurde, oder die Informationsverarbeitung ganz allgemein, die Domäne von einigen wenigen, interessierten Kreisen.
Heute ist all das (und noch viel mehr von damals) in der Öffentlichkeit angekommen.

Was die Freaks von damals in Ruhe entwickeln und beurteilen konnten, muss nun die breite Masse von Heute auf Morgen verstehen lernen.

Dabei könnte vergessen werden dass nicht alles wo heute KI (aka AI) drauf steht intelligenter ist wie das, womit wir uns damals beschäftigt haben. Ein grosser Teil des Wissens um die - und die Fähigkeiten der KI - ist harmlos im Sinne von ungefährlich. Über diese Tatsache wird aber weniger gesprochen, wie über die kritischen Seiten die diese Entwicklung durchaus auch hat. Mit diesem Phänomen muss sich aber nicht nur die KI auseinandersetzen.

Ich sehe in der Entwicklung und dem Einsatz von KI/AI derzeit nur Vorteile. Diese Systeme sind in der Lage, das ganze Schwarmwissen der Menschheit als Wissensbasis zu nutzen. Möglicherweise sind KI-Systeme auch in der Lage, die in dieser Wissensbasis enthaltenen Fehler zu erkennen und als solches deutlich zu markieren und davor zu warnen. Ja, das menschliche Verhalten ist fehlerbehaftet und deshalb wird es auch jede KI erstmal sein. Aber die KI wird mehr und mehr selbsttätig dazulernen. Sie wird Antworten geben, menschliches Handeln beeinflussen und einige Tätigkeiten übernehmen. Es liegt an uns Menschen, wie wir die KI nutzen und was wir zulassen. Einer egal wie gearteten Gesetzgebung zum Thema KI stehe ich sehr skeptisch entgegen. Derzeit sehe ich keine gesetzgebende Gewalt, die so etwas wirklich regeln könnte. Es kommt auf jeden selbst an, wie er mit der KI umgeht. In regulatorischen Eingriffen seitens des Gesetzgebers sehe ich einen Eingriff in die freiheitlich demokratische Grundordnung und die persönliche Selbstbestimmung. Wir alle sollten uns darüber im Klaren sein, dass uns KI immer und überall, bemerkt oder unbemerkt, begegnen kann. Deshalb sollten wir jeden Text und jedes Bild prüfen und uns eine eigene Meinung bilden, anstatt blind zu vertrauen.

...Du machst es, ich mache es und andere wahrscheinlich auch. Aber welcher Prozentsatz der Gesellschaft
macht es so? Ich befürchte, dass ein Großteil der Menschen KI-Aussagen, Bilder usw. ungeprüft übernimmt, weil sie logisch klingen und erscheinen. Die allerwenigsten werden sie hinterfragen oder Manipulationen
erkennen. Wenn schon ein Trump seine platten Lügen verbreiten kann und vom Volk dafür bejubelt wird, wie kann man dann erwarten, dass diese Menschen eine klug, KI-erstellte Manipulation durchschauen...?

Dem ist nicht so, die derzeitigen KI-Modelle verwenden nur einen kleinen Bruchteil des verfügbaren Wissens. Der "erlernte" Ausschnitt wird vom Hersteller vorgegeben. Die KI "lernt" lediglich aus den ihr gegebenen Anfragen entsprechend, zu Antworten. So kommt es z.B. dazu, daß Facebook den Menschen zunehmend polarisierende Antwortengibt, je nachdem, was gerade vom System hoch bewertet wird. Damit Hass und Polemik behaftete Themen entsprechend hoch gewichtet werden sorgen die ebenfalls auf KI basierenden Bot Systeme für Fragen und Antworten um die Systeme von Facebook & Co. passend zu manipulieren.
Gott bewahre uns davor, denn KI kann das Wissen und die Fragestellungen nicht nach menschlichen Moralvorstellungen analysieren. Es hat kein Gefühl für die Aussagen.Die Aussage ist vollends unsinnig. Der Gesetzgeber hat und wird immer regulierend in alle möglichen Dinge eingreifen MÜSSEN, damit Recht und Ordnung erhalten bleibt. Und dies tut er tagtäglich. Das ist die Grundlage für ein freiheitlichen Zusammenleben. Demokratisch wird es dadurch, daß die Bürger über Wahlen und weitere Mechanismen Einfluss nehmen können und sollten. Es ist wichtig. daß der Gesetzgeber, also die von uns gewählten Volksvertreter, so langsam aufwachen und so manchem Spuk ein Ende setzen.
Software, die dazu verwendet wird, die Menschheit zu verwirren, wie z.B. künstliches verfremden oder erzeugen von Bildern, Filmen, Sprache und Text sollten, nein müssen reglementiert werden. Es kann nicht sein, daß Videos erzeugt werden indem KI erzeugte Politiker Texte und Handlungen zeigen, die erstens niemals stattgefunden haben und zweitens unwahr sind.

Ich vergleiche das Phänomen KI gerne mit der Eisenbahn. Da war die Haltung auch, „Es kann nicht sein...“. Tut mir leid, wenn ich da gänzlich anderer Meinung bin. Es muss alles sein, was dem Fortschritt und der Menschheit dient. Die einzige Ausnahme, die ich zulasse, ist die Nutzung der Kernenergie, solange die Frage, was mit dem atomaren Abfall geschieht, nicht geklärt ist.

Wenn Gesetzgeber etwas regulieren wollen, von dem sie selbst nichts verstehen, dann sollten sie es lieber lassen. Insbesondere beim Thema KI sind wir noch an den Anfängen und selbst von der Wissenschaft ist nicht mehr und nicht weniger als ein klares „Jein“ zu vernehmen.

Was die von mir genannten Fähigkeiten und die Wissensbasis betrifft, ist es zugegebenermaßen eine Zukunftsvision. Diese sollte man mit gesetzlicher Regulierung und „Es kann nicht sein...“ nicht abwürgen.

@***ga Dann vergleiche mal fein weiter, ich bin dann raus hier.


(Bitte freundlich bleiben, daher editiert / Marena)

Wenn KI mitbekommt dass in der BRD nur die schlauen arbeiten, erledigt sich KI von selbst

@*******_rp Ja wenn das so wäre, dann wäre das möglicherweise so. Beides glaube ich allerdings nicht so wirklich

@***ga & @**C .. ist es denn so wichtig, ob etwas von oder mit einer KI gemacht wurde. Wenn mir etwas gefällt, sei es ein Bild, einen Film, einen Text, in Spiel, ein Dialog oder was auch immer, dann ist mir das doch an und für sich egal. Was anderes ist das natürlich, wenn Persönlich bei etwas vorausgsetzt wird, als mutwillig getäuscht wird. Dann prüfe ich das natürlich auch. Ist dann im Prinzip das Selbe, wie wenn Leute die Bilder ander Leute missbräuchlich benutzen. Ich sehe also da keine wirkliche Veranlasseung, das der KI in die Schuhe zu schieben

@*******nny

...für mich ist KI ein Werkzeug, das mir die Arbeit erleichtern kann. So angewendet ist gegen diese Technologie auch nichts zu sagen. Was ich befürchte ist, dass diese Technologie, wie andere bereits zuvor, für unethische Zwecke missbraucht wird. Während man bei anderen Technologien meist noch gewisse Kenntnisse benötigte oder Aufwand betreiben musste, ist es mit der KI praktisch jedem möglich, damit andere Menschen zu manipulieren. Das ist das, was ich bei der KI für gefährlich halte, nicht die Technologie, ihre Anwendung. Und je ausgefeilter diese Technologie wird, um so schwerer wird es werden, Manipulation von der Wirklichkeit zu unterscheiden. Eine Welt, in der ich jedes Bild, jeden Satz mit Vorsicht und Misstrauen begegnen muss, ist für mich eine grauenvolle Vorstellung...

ich sehe das nicht wirklich für bedrohlicher, als das mich eine Menschliche Intelligenz wie auch immer, missbrauchen will. ki kann letzlich ja nicht mehr, als der/diejenigen die sie entsprechend benutzen. Aber grundsätzlich hast Du @**C Recht. die Gefahr an sich für die Allgemeinheit ist dadurch tatsächlich grösser geworden. das sehe ich auch so.

@*******nny & @**C

Ich bin da ziemlich auf der Seite von @**C. KI kann ein hilfreiches Instrument sein und der Menschheit helfen. Ob und wie weit sich eine KI verselbständigt und ohne menschliches Zutun agiert, ist m.E. aus heutiger Sicht nicht abschließend zu beurteilen. Noch ist es so, dass die KI einen Anstoß braucht. Das Stichwort heißt „Prompt-Engineering“. Je genauer man die Aufgabe für die KI definiert, umso besser wird das Ergebnis (Text, Bild, Audio, Video) sein.

Klar birgt das die Gefahr, dass auch unethische, abseits der üblichen Moralvorstellungen oder gar kriminelle Dinge von einer KI verlangt werden können. Aber es spricht kaum etwas dagegen, selbst unter Zuhilfenahme einer KI, entsprechende Filter einzubauen.

Damit wären wir beim Streitthema „Regulierung von KI per Gesetz“ angekommen. Ich persönlich, halte die gesetzlichen Vorgaben für durchaus ausreichend. Der Gesetzgeber muss nur den Umfang erweitern und auf die KI ausdehnen. Eine spezielle Gesetzgebung zur KI halte ich nach wie vor für unangebracht.

Gerne kann sich der Gesetzgeber, wie bei vollautonomen Fahrzeugen, Gedanken über die Haftungsfrage machen. Sind die Entwickler zur Verantwortung zu ziehen, wenn die von ihnen entwickelte KI „rote Linien“ überschreitet und daraus ein Schaden entsteht?

Es bleibt aber dabei. Jede und jeder muss sich darüber im Klaren sein, immer und überall mit KI konfrontiert zu werden.

Ende der Menschheit: KI-Forscher warnt vor Weltuntergang in wenigen Jahren – „wir werden alle sterben“

Eigentlich ist die Erkenntnis, dass wir alle sterben, nicht neu. Der KI-Wissenschaftler Eliezer Yudkowsky zeichnet in einem Interview aber ein sehr düsteres Bild und bringt das Ende der Menschheit mit KI in Verbindung. ( Quelle: https://www.futurezone.de/science/article529093/ende-der-menschheit-ki-forscher-a.html )

Naja, Weltuntergangsgeschwurbel gibt es ja immer wieder. Für mich ein klares Zeichen, jeden Tag so zu leben, als wäre es mein Letzter. Also lasst es richtig krachen!

Terminator und Skynet lassen grüßen.

Wenn es um rein technische oder wissenschaftliche Dinge geht, dann ist KI wie jede andere technische Entwicklung neutral und kann positiv oder negativ eingesetzt werden.
Problematisch wird es, wenn ethikbasierte Entscheidungen der KI überlassen. Ethik und Moral sind nicht digitalisierbar.

Problematisch sehe ich auch den Einsatz im künstlerisch-kreativen Bereich.
Das Argument "Gut ist was gefällt" halte ich für etwas naiv. Ästhetische Maßstäbe entstehen ja nicht ausschließlich im Betrachter sondern werden auch von den Kunstschaffenden gebildet.
Eine gute KI kann vielleicht ein passables Bild im Stil von Picasso malen oder eine ganz nette Sinfonie im Stil von Mozart komponieren, aber wirklich neue Impulse wird sie kaum setzen können. Mal abgesehen davon, dass viele Kreative um ihre Jobs bangen, sehe ich da die Gefahr einer Verflachung, sozusagen künstlerisches Fastfood, das überall gleich schmeckt.

Ich hab mal Chat GPT im Stil von Tucholski, Brecht und Jandl dichten lassen. War ganz lustig, aber qualitätsmäßig ist da noch viel Luft nach oben, aber ich selbst würde es auch nicht besser hinkriegen.

Dies ist sicherlich ein gutes Beispiel für schlechte Entwicklungen durch die Computertechnik. Auch ich habe einen hervorragenden Orientierungssinn und kriege mit Navis immer an der Stelle einen an die Pimpernelle, wenn mir der Kartenausschnitt zu klein ist und ich den groben Überblick (den ich eher brauche als die exakte Lage des Ziels) vermisse.

Ökonomisch wird es darauf hinauslaufen, dass gedruckte Karten vom Markt verschwinden, weil sie zu teuer in der Produktion, Aktualisierung und Distribution sind. Nur jemand, der einen ausgeprägten Orientierungssin hat, wird verstehen, was dies für ein Kulturverlust ist (und das nicht im Sinne von weinerlichem Festhalten an Gutem, Altem Bewährtem, sondern als Verlust von notwendiger Kulturtechnik, wie etwa auch die Fähigkeit, eine Fremdsprache zu sprechen)

Es gibt einige Technologien, die im Kern beinhalten, dass sie für den Menschen nicht mehr behrrschbar sind., das gilt nicht nur für die Atomenergie, sondern z. B. auch für die Gentechnologie. Was es bedeuten könnte, wenn ein im Labor hergestellter Mechanismus nicht mehr den vorhergesagten Eigenschaften und Verhalten entspricht, haben wir ja andeutungsweise in der Corona-Pandemie erlebt (womit ich nicht gesagt haben will, dass der Virus gentechnisch gezüchtet worden ist, sondern, welche Kraftanstrengungen notwendig sind, wenn etwas Unvorhergesehenes passiert, was Ökonomie und Leben bedroht).

Bei der KI sehe ich das ähnlich. Schon heute ist es so, dass viele KI-Entwickler nur noch vor einer Black Box stehen und selbst nicht mehr nachvollziehen können, was das von ihnen Entwickelte da gerade macht.

Aber die Tage las ich etwas, was sich für mich als Hoffnungsschimmer zeigte: Stichwort "Habsburg-KI".

Wer mehr dazu wissen will, gebe diesen Begriff mal bei Tante Gugelhupf ein.

Nur soviel: die derzeit wohl wichtigste Stimme unter Deutschlands Computerphiliosophen, Jürgen Geuther (aka "Tante") hat sich zum Thema KI beim Medienfachdienst Turi geäußert.

Zitat: "Unterschiedliche Studien zeigen, dass sich die Qualität der Texte von ChatGPT verändert – aber nicht unbedingt verbessert. Und das hat einen ganz trivialen Grund, den man in der Mathematik “Model Collapse” nennt. In ChatGPT steckt bereits das gesamte Internet – ein zweites Internet haben wir nicht. Ein großer Teil der Inhalte, die jetzt und in Zukunft im Internet dazukommen, werden bereits durch KI erzeugt. Es wurden jetzt schon durch Künstliche Intelligenz mehr Bilder erzeugt, als jemals Fotos von Kameras geschossen wurden. Wenn ich aber nun ein KI-System mit KI-generiertem Zeug füttere, dann wird es schlechter. Die Informationsdichte in dem Ding sinkt. Es wird dümmer. Ein Bekannter von mir nennt es immer “Habsburg-KI”."

Und: KI ist durchschnittlich. Es orientiert sich immer am Durchschnitt, aber in einer mediocren Welt will ich nicht leben. Die bringt keinen Bach, keinen Van Gogh, keine Ada Lovelace und keinen Oppenheimer, der über die Konsequenzen seiner Entwicklung nachdenkt, hervor. Nur Scholze und Merze

Ich hatte es ja schon geschrieben, Künstliche Intelligenz / Artifical Itelligence ist alles mögliche nur nicht Intelligent. Das was @****ili geschrieben hat, beschreibt es sehr genau.
Automatisierte Textgeneratoren wie ChatGPT erzeugen aus ihrer Datenbank heraus, Texte, die dem Anwender wohlgefällig erscheinen, aber aus dem Gequassel unterschiedlichster Quellen besteht.
Intelligenz heißt unter anderem, daß das, was "KI" als Ergebnis von sich gibt, vorab nach sinnvollen Kriterien auf Richtigkeit geprüft ist. Da es noch keine KI gibt, die den Sinn +versteht+, kann sie auch die Aussagen, die sie tätigt, nicht bewerten. Je mehr KI lernt, je mehr, mehr oder weniger, dubiose Quellen, wie z.B. (a)soziale Medien, hinzukommen, je schwachsinniger wird das Ergebnis.
Da diese Systeme in Nachrichtenkanäle einzug halten, um automatisiert "Informationen" zu generieren, geht von KI eine massive Gefahr aus. KI wird insbesondere von Diktaturen eingesetzt um Wähler in demokratisch geführten Staaten mit freier Meinungsbildung zu manipulieren.

@****ili
Das ist gut beschrieben und trifft für alle Bereiche zu, wo Kreativität gefordert ist.


Auch da wo es um Zwischenmenschliches geht, hat KI ihre Grenzen und ihr Einsatz ist problematisch.
So tritt in der Medizin schon länger der so wichtige menschliche Kontakt zwischen Arzt und Patient immer mehr in den Hintergrund und es geht nur noch um Laborwerte und Medizintechnik. Der Einsatz von KI wird das noch verstärken.

Noch ein vorläufiger Silberstreif:

Heute in der Szene zu lesen: "Nach einem Jahr des Hypes kommt die Realität zum Vorschein. Cloud-Kunden kaufen keine generativen KI-Tools, weil sie so teuer sind, ihnen es an Genauigkeit fehlt und überhaupt nicht klar ist, welchen Nutzen sie bringen. Einige Analysten warnen schon vor einem kommenden Tiefpunkt der Desillusion." Repräsentanten (Produktmanager und Verkaufsverantwortliche) großér Cloudfirmen wie Amazon und Google dämpfen die Erwartungen beträchtlich. (Quelle: http://www.theinformation.com)