Praktisches & Grundsätzliches zur Informatik


LLM-basierte KI ist nichts weiter als virtueller Fachexperte

LLM-basierte KI, z.B. ChatGPT, charakterisiert sich am besten dadurch, dass man sagt:

  • Man kann mit ihr sprechen, als wäre sie eine Person, die – im Extremfall wenigstens –
  • das Wissen nahezu aller Fachexperten dieser Welt zum jeweils diskutierten Thema kennt.
  • Perfekt in dem Sinne, dass sie wirklich niemals Falsches sagt, kann auch sie nicht sein.
    |
  • Ihr innewohnende Intelligenz ist Intelligenz ihrer Entwickler (also keine in der KI selbst entstandene).



LLM-basierte KI muss man begreifen als virtuellen Gesprächspartner, der – obgleich er über sehr viel mehr Wissen verfügt als wir – ebenso irren kann, wie wir selbst. Eben deswegen kann sie keinen einzigen Programmierer ersetzen.

Durch LLMs erzeugter Code ist vor allem nützlich als Code-Fragment in Fachbüchern übers Programmieren, aber nirgendwo sonst.

Generative KI wird gelegentlich sogar schlimmer irren als Menschen, da sie ja keinerlei Plausibilitäts­überlegungen anstellen kann. Logische Überlegungen sind ihr fremd, ja sogar unmöglich. Das ist richtig, obgleich man es angesichts einiger Antworten, die z.B. Chat-GPT4o uns gibt, kaum glauben kann.

|

LLM-basierte KI hat etwas gemeinsam mit Menschen, die in der Kunst des logischen Denkens kaum geschult sind: Es lässt sich im Zweifelsfall nicht wirklich nachvollziehen, wie es zu ihrer Antwort auf eine ihr gestellte Frage kam. Die KI kann ja schließlich überhaupt nicht unterscheiden zwischen Meinung und Beweis. Wo sie argumentiert, argumentiert sie jenseits ihres Erkenntnishorizonts. Was sie ihrem Nutzer sagt, ist bestenfalls die angesichts ihrer Trainingsdaten rein formal wahrscheinlichste Antwort.

Nachvollziehbare indirekte Beweise für durch Menschen noch nie bewiesene mathematische Aussagen wird sie daher nicht finden können. Und so könnte es Sinn machen, den Turingtest für sog. "starke" KI durch diese Art von Kriterium zu ersetzen.



stw2250grLLM . Experte . FachexperteNews?

Mehr + B G E + S H A + More

Synergizing Multiple Expert LLMs