Im Gleichschritt

Passt hier, habe ich an anderer Stelle (Waffentechnik und KI usw.) im "Nachbar-Forum" plaziert:

Nur mal nebenbei, weil von KI im Zusammenhang mit neuen Waffen-Techniken (Drohnen, Marschflugkörpern) u.a. die Rede ist:Man hat festgestellt, dass die KI-Chatbots, mit denen man bsiher reüssiert hat, "schlechtere" Antworten (inhaltlich) als noch zu Beginn ihrer Nutzung "auswerfen", wenn diese Software zu irgendeinem Problem befragt wird.
Ich sehe hier einen Kardinalfehler bei der bisherigen Vorgehensweise der Nutzung von KI. Diese Software ist menschengemachter Algorithmus, wird zur Nutzung mit Inhalten (oder Links dazu) ausgestattet und ist in der Lage, Inhalte sinnvoll zu verknüpfen, wenn ihr eine Frage (selbst komplexer Art) zur Beantwortung oder ein Problem zur Lösung vorgelegt wird. Weiterhin ist die (ich nenne sie kurz :) KI mit der "Fähigkeit des Lernens" (von Inhalten, die ihr z.B. als Nebenbedingungen für die Lösung eines Problems vorgelegt werden) ausgestattet und sie ist in der Lage, neue und bisherige Inhalte zu verknüpfen.

Das Problem der "schlechteren Antworten als vordem" hängt mit dieser letztgenannten Fähigkeit zusammen. Indem die KI von allen möglichen Personen unterschiedlichsten Bildungsgrades (vor allem aus Sicht von "Bildung", nicht beruflicher "Ausbildung" - aber auch von daher) zur Problemlösung heran gezogen wird, nimmt sie massiert Inhalte neu auf und verknüpft sie, die in verschiedenster Hinsicht mangelhaft sind. Es sind doch, man mache sich nichts vor, viele "Allerwelts-Personen", die KI (z.B. die Chat-KI bei BING o.ä.) nutzen, weil Gebildete eine Antwort bzw. eine Lösung zumindest in Teilen selbst zu finden in der Lage sind.
Die "Allerwelts-Personen" tragen ihr für "Wissen" gehaltenes Halb- und Unwissen mit jeder Fragestellung in das Algorithmen-Gefüge der KI-Software ein. Die nimmt es offensichtlich in Teilen für bare Münze und verlinkt es in sich, dann gibt sie es bei Antworten weiter...
Schlussfolgerung: In der KI muss zwingend ein Fakten-Checker eingebaut sein, der Plausibilität und Stichhaltigkeit des Eintrags in die KI prpft und unsicheres bis falsches "Wissen" verwirft.
Scheinbar hat man das bisher noch nicht so gesehen.
Ich bin mir aber nicht sicher, ob nicht auch das gewollt sein könnte.
Und Einschränkungen der Betreiber von KI-Zugängen sind natürlich auch zu beachten (s. Bsp. oben von @FA).
Und KI-Nutzung ein bildungs-(nicht, aber auch, ausbildungs-)abhängiges "Werkzeug" sein wird oder sein soll. Das würde auf ein hierarchisches System von wirklicher Problemlösung hinführen und zu einer differenzierten Gesellschaft mit prekären "Mitgliedern" führen, deren Chancen von vorn herein eingeschränkt sind (populäres "Internet"), und privilegierten "Mitgliedern", deren Möglichkeiten auf dem Vorteil einer "besseren" Problemlösung (wie immer geartet) beruhen und sich deutlich abheben...

OldMan

PS. Ohne KI (davon wurde damals zwar auch geredet) hat etwas Ähnliches bereits Robt. B. Reich, Arbeitsminister der ersten Clinton-Administration und (wimre Harvard-Prof.), in einer Schrift "Die neue Weltwirtschaft" (Mitte der 90er) angesprochen.
PPS. Und je dümmer die KI, desto weniger treffsicher die Lenk-Bomben, Drohnen usw. und desto mehr Kolateralschäden... !!
-

Ich empfehle mal zum Einlesen in die Problematik von Manuela Lenzen "Künstliche Intelligenz" (Fakten, Chancen, Risiken), C.H.Beck; Wissen, für die "Zentralen der politischen Bildung". Das Büchlein schafft zumindest einen Überblick (wobei auch ich @Obstihj zustimme: Was man sagen will und was nicht... naja.).
Ich erinnere mich gut an die 80er, @oldmafri: Da haben wir auch von lernenden Systemen und KI sowie "Experten-Systemen" gesprochen; sogar programmiert: Berühmt war "Wenn ... dann ... falls ... dann" usw. und es wurden ja auch direkt Programmiersprachen (PROLOG, LISP) dafür entwickelt... So richtig kam aber der Durchbruch nicht.
Lange her.

OldMan

Ist mir eben beim Durchsehen "historischer Dokumente" untergekommen: Michael Roth, "Die intelligente Maschine" (Der Computer als Experte), Urania-Verlag Leipzig, Jena, Berlin, 1988.
Prof. Roth war aus Ilmenau, Sektion Technische und Biomedizinische Kybernetik.
Wenn ich das so durchblättere: Wir haben damals schon ziemlich weit gedacht. Die Hardware-Basis war aber dafür noch zu schwachbrüstig (aus meiner heutrigen Sicht, damals sah man Vieles recht euphorisch). Softwareseitig konnte das dann nur das Niveau haben, mit dem die Hardware betrieben wurde; dass jedoch Gedanken und Konzepte darüber hinaus gingen, war schon klar, schließlich saßen im Osten auch keine Dummen (selbst wenn sie uns das nachträglich eintrichtern wollten). Ich hatte mich damals forschungsseitig mit der Massendaten-Analyse (wäre heute "Data-Mining") beschäftigt und auch einige Ansätze entwickelt, wie deren Ergebnisse erarbeitet und zur Steuerung von (Produktions-)Prozessen genutzt hätten werden können... 1991 war damit endgültig Schluss; von da ab ging ich nur noch nach Brot und habe alles gemacht, was man so machen konnte: Nur nicht wissenschaftlich geforscht.

OldMan