Künstliche Intelligenz kann Texte schreiben, Gesichter auf Bildern erkennen, Sprache übersetzen, Krankheiten in medizinischen Aufnahmen klassifizieren, verdächtige Kreditkartenzahlungen entdecken, Musik empfehlen, Fahrzeuge unterstützen und Programme schreiben.

Trotzdem ist erstaunlich schwer zu beantworten, was künstliche Intelligenz eigentlich genau ist.

Das liegt weniger daran, dass niemand die Technik versteht. Das Problem beginnt bereits beim Wort Intelligenz.

Wenn ein Taschenrechner innerhalb einer Millisekunde eine Berechnung durchführt, für die ein Mensch Papier und Bleistift benötigt, nennen wir ihn nicht intelligent.

Wenn ein Computer dagegen auf einem Foto erkennt, dass dort ein Hund zu sehen ist, sprechen wir schnell von künstlicher Intelligenz.

Wenn ein Sprachmodell einen überzeugenden Brief formuliert, wirkt es noch intelligenter.

Und wenn dasselbe Modell anschließend mit großer Sicherheit eine falsche Tatsache behauptet, fragen wir uns plötzlich wieder, wie intelligent dieses System überhaupt sein kann.

Künstliche Intelligenz ist deshalb weniger eine einzelne Technologie als ein Sammelbegriff für unterschiedliche maschinelle Systeme, die Aufgaben ausführen, bei denen Entscheidungen, Vorhersagen, Mustererkennung, Sprachverarbeitung oder andere Fähigkeiten eine Rolle spielen, die wir traditionell mit menschlicher Intelligenz verbinden.

Es gibt nicht die eine perfekte KI-Definition

Selbst Fachorganisationen vermeiden häufig eine philosophische Definition von „Intelligenz“ und beschreiben stattdessen, was ein KI-System tut.

Die OECD definiert ein KI-System als ein maschinenbasiertes System, das für explizite oder implizite Ziele aus seinen Eingaben ableitet, wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt. Solche Systeme können sich außerdem darin unterscheiden, wie autonom sie arbeiten und ob sie sich nach ihrer Einführung noch anpassen. (OECD AI)

Auch die Definition des europäischen AI Acts folgt diesem Grundgedanken: Ein KI-System ist dort ein maschinenbasiertes System mit unterschiedlichen Graden an Autonomie, das aus Eingaben ableitet, wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt, die physische oder virtuelle Umgebungen beeinflussen können. (EUR-Lex)

Für unseren praktischen Einstieg reicht deshalb eine einfachere Arbeitsdefinition:

Künstliche Intelligenz bezeichnet Computersysteme, die aus Informationen Ergebnisse ableiten können, für die bei klassischer Software häufig menschliche Wahrnehmung, Mustererkennung, Beurteilung oder Entscheidung notwendig wäre.

Diese Definition ist absichtlich breit.

Denn eine Gesichtserkennung und ein Sprachmodell können beide KI sein, obwohl sie völlig unterschiedliche Aufgaben lösen.

KI ist kein einzelnes Programm

Wenn heute von „der KI“ gesprochen wird, klingt es manchmal, als gäbe es irgendwo eine große digitale Intelligenz, die lediglich über unterschiedliche Apps angesprochen wird.

In Wirklichkeit existieren sehr viele unterschiedliche Systeme.

Zum Beispiel:

KI-Systeme
│
├── Bilderkennung
├── Spracherkennung
├── Übersetzung
├── Empfehlungssysteme
├── Betrugserkennung
├── autonome Systeme
├── Sprachmodelle
├── Bildgeneratoren
└── viele weitere Anwendungen

Ein System, das Hautveränderungen auf medizinischen Bildern klassifiziert, muss nicht sinnvoll einen Brief schreiben können.

Ein hervorragendes Schachprogramm muss keine Katze erkennen.

Ein Bildgenerator muss keine Rechnung kontrollieren können.

Die Bezeichnung KI sagt deshalb zunächst nur etwas über eine sehr große Technologiefamilie aus.

Das konkrete Problem ist wichtiger als der Begriff KI

Statt zu fragen:

Welche KI brauche ich?

ist häufig sinnvoller zu fragen:

Was soll das System tun?

Zum Beispiel:

E-Mails kategorisieren

oder:

Produktfotos freistellen

oder:

Kundendokumente durchsuchen

oder:

Texte zusammenfassen

oder:

Maschinenausfälle vorhersagen

Erst danach lässt sich entscheiden, welche technische Methode überhaupt geeignet ist.

Das wird im gesamten KI-Bereich von Casiopeya ein wiederkehrendes Prinzip sein:

Problem zuerst. Werkzeug danach.

KI-System und KI-Modell sind nicht dasselbe

Dieser Unterschied ist besonders wichtig, weil beide Begriffe im Alltag häufig austauschbar verwendet werden.

Ein KI-Modell ist eine Komponente, die Eingaben verarbeitet und daraus bestimmte Ausgaben erzeugt. NIST beschreibt ein AI Model entsprechend als Komponente eines Informationssystems, die KI-Techniken verwendet, um aus Eingaben Ergebnisse zu produzieren. (NIST Computer Security Resource Center)

Ein KI-System kann wesentlich mehr umfassen.

Zum Beispiel:

Benutzer
↓
Weboberfläche
↓
Anwendungslogik
↓
KI-Modell
↓
Datenbank
↓
externe Werkzeuge
↓
Sicherheitsregeln
↓
Ausgabe

Das Modell ist hier nur ein Baustein.

Ein Chatbot ist deshalb mehr als sein Sprachmodell

Stell dir einen Firmenassistenten vor.

Ein Mitarbeiter fragt:

Wie viele Urlaubstage habe ich noch?

Das Sprachmodell selbst weiß das nicht.

Ein vollständiges System könnte dagegen:

Frage verstehen
↓
Mitarbeiter identifizieren
↓
HR-System abfragen
↓
Urlaubsdaten erhalten
↓
Sprachmodell formuliert Antwort

Das Sprachmodell übernimmt nur einen Teil der Aufgabe.

Die eigentliche Anwendung besteht zusätzlich aus:

Authentifizierung,

Datenzugriff,

Berechtigungen,

Workflow,

Benutzeroberfläche.

Wenn später etwas falsch läuft, ist daher die Aussage:

Die KI hat einen Fehler gemacht.

häufig zu ungenau.

Vielleicht war die Datenbank falsch.

Vielleicht wurde der falsche Mitarbeiter abgefragt.

Vielleicht war eine Berechtigung fehlerhaft.

Vielleicht hat tatsächlich das Modell eine falsche Schlussfolgerung erzeugt.

Systemdenken ist deshalb bei KI enorm wichtig.

KI ist nicht dasselbe wie normale Automatisierung

Angenommen, eine Software besitzt folgende Regel:

Wenn Rechnungsbetrag > 1.000 Euro
→ Freigabe durch Vorgesetzten erforderlich

Das System führt eine vorher vollständig definierte Regel aus.

Dafür braucht man keine künstliche Intelligenz.

Dasselbe gilt für:

Wenn Formular abgeschickt
→ Bestätigungsmail senden

oder:

Jeden Montag um 08:00
→ Bericht erstellen

Solche Prozesse können hochautomatisiert sein, ohne KI zu verwenden.

KI wird interessant, wenn Ableitung statt fester Regel notwendig wird

Nehmen wir dagegen eine frei formulierte E-Mail:

Hallo, seit dem Update gestern funktioniert auf unserer Seite das Kontaktformular nicht mehr. Die Kunden bekommen nur eine Fehlermeldung.

Nun soll das System entscheiden:

Thema?
Priorität?
zuständige Person?

Man könnte theoretisch tausende klassische Regeln programmieren.

Oder ein KI-System leitet aus dem Text ab:

Kategorie: WordPress-Support
Problem: Kontaktformular
Priorität: hoch

Genau dieses Ableiten aus Eingaben taucht deshalb auch in modernen institutionellen KI-Definitionen auf. (OECD AI)

Der Unterschied lässt sich vereinfacht darstellen:

klassische Regel
Eingabe
↓
fest programmierter Weg
↓
Ausgabe

gegen:

KI
Eingabe
↓
gelerntes oder modelliertes Verfahren
↓
abgeleitete Ausgabe

Aber auch klassische Software kann sehr komplex sein

Die Grenze ist nicht immer offensichtlich.

Ein Schachprogramm kann beispielsweise Millionen Möglichkeiten berechnen.

Ein Steuerprogramm kann Tausende Regeln besitzen.

Eine Suchmaschine kann komplizierte Rankingverfahren verwenden.

Komplexität allein macht ein System noch nicht automatisch zu künstlicher Intelligenz.

Deshalb ist die Frage:

Sieht das Programm intelligent aus?

kein besonders zuverlässiges technisches Kriterium.

Ein kleines Machine-Learning-Modell kann mathematisch KI sein, obwohl seine Ausgabe unspektakulär wirkt.

Eine gewaltige klassische Software kann dagegen vollständig regelbasiert arbeiten.

Was ist Machine Learning?

Ein großer Teil moderner KI basiert auf Machine Learning, kurz ML.

Auf Deutsch wird häufig von maschinellem Lernen gesprochen.

Die Grundidee besteht darin, nicht für jeden denkbaren Fall eine vollständige Regel von Hand zu programmieren.

Stattdessen lernt ein Modell aus Daten bestimmte Zusammenhänge beziehungsweise Muster. NIST beschreibt Machine Learning als Entwicklung und Nutzung von Computersystemen, die aus Daten lernen und sich anpassen können. (NIST Computer Security Resource Center)

Das lässt sich an einem einfachen Beispiel verdeutlichen.

Klassische Programmierung definiert Regeln

Wir möchten Spam erkennen.

Eine sehr einfache klassische Lösung könnte lauten:

Wenn Betreff enthält "Millionengewinn"
→ Spam

Dann kommt eine neue Spam-Mail:

Sie wurden für eine exklusive finanzielle Auszahlung ausgewählt.

Die Regel greift nicht.

Nun ergänzen wir weitere Regeln.

Wenn "Auszahlung"
→ möglicherweise Spam

Wenn 12 Ausrufezeichen
→ möglicherweise Spam

Wenn bestimmter Absender
→ Spam

Je vielfältiger die Fälle werden, desto schwieriger wird die vollständige Regelmenge.

Machine Learning lernt aus Beispielen

Stattdessen stellen wir Daten bereit:

E-Mail A → Spam
E-Mail B → kein Spam
E-Mail C → Spam
E-Mail D → kein Spam
...

Das Lernverfahren versucht Muster zu entdecken, die helfen, neue Fälle zu klassifizieren.

Nach dem Training bekommt das Modell eine neue Nachricht.

Es berechnet beispielsweise:

Spam-Wahrscheinlichkeit: 97 %

Der Entwickler hat dafür nicht zwingend die Regel geschrieben:

Wenn genau diese fünf Wörter vorkommen, dann Spam.

Das Modell hat statistische Zusammenhänge aus den Trainingsbeispielen gelernt.

KI ist größer als Machine Learning

Heute werden KI und Machine Learning häufig beinahe synonym verwendet.

Das ist historisch und technisch nicht ganz korrekt.

Machine Learning ist ein wichtiger Bereich der künstlichen Intelligenz.

Es existieren jedoch auch KI-Ansätze, die nicht primär aus Trainingsdaten lernen.

Die OECD nennt neben Machine Learning ausdrücklich auch wissensbasierte Ansätze als Teil des breiteren KI-Feldes. (OECD AI)

Vereinfacht können wir uns vorstellen:

Künstliche Intelligenz
│
├── regel- und wissensbasierte Ansätze
│
├── Such- und Planungsverfahren
│
├── Machine Learning
│   └── Deep Learning
│
└── weitere Verfahren

Moderne generative KI basiert zwar stark auf Machine Learning und insbesondere tiefen neuronalen Netzen.

KI als Fachgebiet ist jedoch älter und breiter.

Vor Machine Learning gab es bereits KI

Ein klassischer Ansatz waren sogenannte Expertensysteme.

Statt Muster aus großen Datenmengen zu lernen, versuchten Entwickler menschliches Fachwissen als Regeln abzubilden.

Vereinfacht:

WENN
Temperatur hoch

UND
Symptom A

UND
Symptom B

DANN
mögliche Diagnose X

Solche wissensbasierten Systeme können sehr leistungsfähig sein.

Ihr Problem liegt unter anderem darin, dass jemand das erforderliche Wissen in Regeln überführen und anschließend pflegen muss.

Die reale Welt besitzt allerdings sehr viele Ausnahmen und Graubereiche.

Machine Learning hat deshalb in zahlreichen Bereichen einen anderen Weg eröffnet:

Nicht jede Regel explizit beschreiben, sondern Muster aus Beispielen lernen.

Was bedeutet „lernen“ bei einer Maschine?

Dieser Begriff kann ebenfalls irreführen.

Ein Computer lernt nicht wie ein Kind.

Er entwickelt kein persönliches Verständnis oder Lebenserfahrung.

Beim Machine Learning bedeutet Lernen vereinfacht, dass während eines Trainings interne mathematische Werte so verändert werden, dass das Modell eine definierte Aufgabe besser erfüllt.

NIST beschreibt die Trainingsphase entsprechend als die Phase einer Machine-Learning-Pipeline, in der Modellparameter anhand von Trainingsdaten so gelernt werden, dass ein Fehler gegenüber einer Zielfunktion minimiert wird. (NIST Computer Security Resource Center)

Das klingt komplizierter als die Grundidee ist.

Training ist mathematische Anpassung

Nehmen wir ein Modell, das Katzen und Hunde unterscheiden soll.

Zu Beginn macht es viele Fehler.

Es bekommt ein Bild.

Modell sagt:

Katze: 30 %
Hund: 70 %

Die richtige Antwort lautet aber:

Katze

Das Trainingsverfahren berechnet, wie falsch die Vorhersage war.

Anschließend werden interne Werte leicht angepasst.

Das wiederholt sich sehr oft.

Beispiel
↓
Vorhersage
↓
Fehler bestimmen
↓
Parameter verändern
↓
nächstes Beispiel

Nach vielen Trainingsschritten kann das Modell Muster gelernt haben, mit denen es neue Bilder besser klassifiziert.

Was sind Parameter?

Ein Machine-Learning-Modell enthält mathematische Werte, die sein Verhalten beeinflussen.

Diese werden häufig Parameter genannt.

Beim Training werden solche Werte angepasst.

In einem sehr kleinen Modell können es wenige Parameter sein.

In modernen großen neuronalen Netzen können es sehr viele sein.

Wichtig ist dabei weniger die konkrete Zahl als das Konzept:

Training
→ Parameter werden gelernt

Nutzung
→ gelernte Parameter werden verwendet

Die Parameter sind also nicht einfach eine Datenbank mit fertigen Antworten.

Sie codieren mathematische Beziehungen innerhalb des Modells.

Training und Nutzung sind zwei getrennte Phasen

Das ist eine der wichtigsten Grundlagen für alle späteren Artikel über lokale KI.

Zunächst entsteht beziehungsweise verändert sich ein Modell durch Training.

Danach wird das trainierte Modell verwendet, um neue Eingaben zu verarbeiten.

Diese zweite Phase wird in der KI häufig Inference beziehungsweise Inferenz genannt.

Vereinfacht:

TRAINING

Trainingsdaten
↓
Lernverfahren
↓
Parameter werden angepasst
↓
fertiges Modell

anschließend:

INFERENZ

neue Eingabe
↓
fertiges Modell
↓
Ausgabe

Wenn du später ein fertiges Sprachmodell lokal auf einer Grafikkarte ausführst und ihm eine Frage stellst, trainierst du normalerweise nicht das gesamte Modell neu.

Du führst Inferenz aus.

Das erklärt auch unterschiedliche Hardwareanforderungen

Training großer Modelle kann enorme Rechenressourcen benötigen.

Die spätere Verwendung eines bereits trainierten Modells kann wesentlich günstiger sein.

Deshalb kann ein Modell, dessen Entwicklung sehr große Rechenzentren erforderte, später in verkleinerter oder quantisierter Form auf einer einzelnen Workstation betrieben werden.

Training und Inferenz sind technisch unterschiedliche Aufgaben.

Diese Trennung wird später wichtig für:

GPU-Auswahl,

VRAM,

Quantisierung,

Fine-Tuning,

lokale KI.

Was ist Supervised Learning?

Beim Supervised Learning besitzt das Trainingsmaterial gewünschte Zielwerte beziehungsweise Labels.

NIST beschreibt es als Machine-Learning-Verfahren, bei dem ein Modell lernt, explizite – häufig von Menschen erzeugte – Labels oder Ausgabewerte vorherzusagen. (NIST Computer Security Resource Center)

Beispiel:

Bild 1 → Katze
Bild 2 → Hund
Bild 3 → Katze
Bild 4 → Hund

Oder:

Hausdaten → Verkaufspreis

Oder:

E-Mail → Spam / kein Spam

Das Modell bekommt beim Training also nicht nur die Eingabe.

Es kennt auch die gewünschte Antwort.

Klassifikation ist ein typischer Fall

Das Modell soll eine Klasse auswählen.

Beispielsweise:

Rechnung
Supportanfrage
Bewerbung
Werbung

oder:

gesund
krank

oder:

Katze
Hund
Pferd

Viele praktische Machine-Learning-Anwendungen sind solche Klassifikationsprobleme.

Was ist Unsupervised Learning?

Beim Unsupervised Learning liegen dagegen keine fertigen Ziel-Labels für jedes Beispiel vor.

Das Modell sucht Strukturen in den Daten.

NIST nennt als typisches Beispiel das Gruppieren beziehungsweise Clustern ähnlicher Datenpunkte. (NIST Computer Security Resource Center)

Angenommen, ein Unternehmen besitzt Kaufdaten von 100.000 Kunden.

Es gibt keine vorgegebenen Gruppen.

Ein Verfahren könnte Muster erkennen und beispielsweise Kundengruppen mit ähnlichem Verhalten bilden.

Kundendaten
↓
Muster suchen
↓
Gruppe A
Gruppe B
Gruppe C

Der Mensch hat vorher nicht zwingend gesagt:

Kunde Nummer 4 gehört zu Gruppe B.

Die Struktur wird aus den Daten abgeleitet.

Was ist Self-Supervised Learning?

Self-Supervised Learning ist besonders für moderne große Modelle wichtig.

Dabei werden Lernaufgaben automatisch aus den vorhandenen unbeschrifteten Daten erzeugt.

NIST beschreibt Self-Supervised Learning als Verfahren, bei dem implizite Labels aus unstrukturierten Daten entstehen, statt dass Menschen sämtliche Beispiele manuell beschriften. Ein typisches Prinzip besteht darin, dem Modell nur einen Teil der Daten zu geben und es den fehlenden Teil vorhersagen zu lassen. (NIST Computer Security Resource Center)

Vereinfacht:

Ausgangsdaten:
Der Hund läuft durch den Garten.

Trainingsaufgabe:
Der Hund läuft durch den ______.

Ziel:
Garten

In realen großen Modellen ist die Technik natürlich erheblich komplexer.

Das Grundprinzip erklärt aber, wie gewaltige Mengen vorhandener Texte als Trainingsmaterial genutzt werden können, ohne dass Menschen zu jedem einzelnen Satz ein Label schreiben müssen.

Was ist Reinforcement Learning?

Eine weitere große Lernfamilie ist Reinforcement Learning, auf Deutsch häufig bestärkendes Lernen.

Hier lernt ein System durch Interaktion mit einer Umgebung.

Es führt Aktionen aus und erhält Rückmeldungen beziehungsweise Belohnungssignale.

Vereinfacht:

Situation
↓
Aktion wählen
↓
Ergebnis
↓
Belohnung oder Nachteil
↓
Strategie anpassen

Das kann beispielsweise bei:

Spielen,

Robotik,

Steuerungsproblemen,

Entscheidungsstrategien

eingesetzt werden.

Auch bei modernen Sprachmodellen können Verfahren aus diesem Bereich in späteren Trainings- beziehungsweise Anpassungsphasen eine Rolle spielen.

Was ist ein neuronales Netz?

Viele moderne Machine-Learning-Systeme basieren auf künstlichen neuronalen Netzen.

Der Begriff ist vom biologischen Nervensystem inspiriert.

Man sollte ihn allerdings nicht zu wörtlich verstehen.

Ein künstliches neuronales Netz ist kein künstliches Gehirn.

Es ist ein mathematisches Modell aus miteinander verbundenen Verarbeitungseinheiten und Parametern.

Eine sehr vereinfachte Darstellung lautet:

Eingabe
↓
Schicht
↓
Schicht
↓
Schicht
↓
Ausgabe

Daten werden durch mehrere Berechnungsschritte verarbeitet.

Das Training verändert die Verbindungsgewichte beziehungsweise Parameter so, dass das gewünschte Verhalten wahrscheinlicher wird.

Was bedeutet Deep Learning?

Deep Learning bezeichnet Machine Learning mit neuronalen Netzen, die mehrere Verarbeitungsschichten besitzen.

Das „deep“ bezieht sich also auf die Tiefe des Netzes – nicht darauf, dass das System besonders tiefgründig denkt.

Vereinfacht:

Künstliche Intelligenz
└── Machine Learning
    └── Deep Learning
        └── viele moderne generative Modelle

Diese Darstellung ist für den Einstieg hilfreich, auch wenn die Grenzen einzelner Methoden in der Forschung komplexer sein können.

Deep Learning hat besonders dort große Fortschritte ermöglicht, wo sehr komplexe Muster aus großen Datenmengen gelernt werden müssen.

Dazu gehören beispielsweise Bild- und Sprachverarbeitung.

Für Bildaufgaben wurden etwa Convolutional Neural Networks entwickelt, die Merkmale in gitterartigen Daten wie Bildern verarbeiten können. NIST nennt CNNs insbesondere für Bildklassifikation, Objekterkennung und Bildsegmentierung. (NIST Computer Security Resource Center)

Ein Modell lernt Merkmale statt menschlicher Regeln

Das lässt sich gut an Bilderkennung erklären.

Bei einer klassischen Software müsste ein Entwickler vielleicht versuchen:

Wenn zwei spitze Ohren
UND Schnurrhaare
UND bestimmte Kopfform
→ Katze

Das funktioniert schnell nicht mehr.

Katze von hinten.

Katze im Dunkeln.

Katze teilweise verdeckt.

Katze mit ungewöhnlicher Fellfarbe.

Ein trainiertes neuronales Netz kann stattdessen aus sehr vielen Beispielen komplexe visuelle Merkmale lernen.

Der Entwickler programmiert nicht jede einzelne Katzenregel.

Er entwickelt vielmehr:

Trainingsverfahren,

Modellarchitektur,

Datenpipeline,

Bewertungsmethode.

Das ist ein grundlegender Wechsel in der Softwareentwicklung.

Daten werden dadurch besonders wichtig

Wenn ein Modell aus Beispielen lernt, hängt sein Verhalten stark von diesen Beispielen ab.

Angenommen, ein Bilderkennungsmodell bekommt beim Training nur rote Äpfel zu sehen.

Später erhält es:

einen grünen Apfel.

Ob es ihn korrekt erkennt, hängt davon ab, welche Merkmale es tatsächlich gelernt hat.

Ein Machine-Learning-System soll idealerweise nicht nur Trainingsbeispiele wiederholen.

Es soll generalisieren.

Also aus bekannten Beispielen Regeln beziehungsweise Muster ableiten, die auch bei neuen Daten funktionieren.

Gute Trainingsleistung reicht deshalb nicht

Ein Modell könnte theoretisch sämtliche Trainingsdaten perfekt auswendig kennen und bei neuen Daten trotzdem schlecht sein.

Das wäre vergleichbar mit einem Schüler, der Prüfungsantworten auswendig gelernt hat, aber das Thema nicht anwenden kann.

Machine Learning versucht deshalb, Leistung auf Daten zu beurteilen, die nicht einfach identisch mit den Trainingsbeispielen sind.

Dazu werden Datensätze häufig in unterschiedliche Bereiche aufgeteilt.

Zum Beispiel:

Trainingsdaten
↓
Modell lernen

Validierungsdaten
↓
Entwicklung abstimmen

Testdaten
↓
Leistung auf neuen Beispielen prüfen

Die genaue Methodik hängt vom jeweiligen Projekt ab.

Das Prinzip bleibt:

Entscheidend ist nicht, wie gut das Modell bereits bekannte Beispiele reproduziert, sondern wie gut es mit neuen Fällen umgehen kann.

Datenqualität kann wichtiger sein als Datenmenge

„Mehr Daten“ klingt zunächst immer besser.

Aber zehn Millionen fehlerhaft beschriftete Beispiele können schlechter sein als ein kleinerer hochwertiger Datensatz.

Mögliche Probleme sind:

falsche Labels,

fehlende Gruppen,

veraltete Informationen,

ungleiche Verteilungen,

Messfehler,

Duplikate.

Ein Modell kann aus seinen Trainingsdaten Muster lernen, die gar nicht dem gewünschten Zusammenhang entsprechen.

Damit entsteht eine fundamentale KI-Regel:

Ein leistungsfähiger Lernalgorithmus kann schlechte Daten nicht automatisch in eine gute Realität verwandeln.

KI kann unerwünschte Muster lernen

Angenommen, ein Unternehmen trainiert ein Modell anhand historischer Entscheidungen.

Diese historischen Entscheidungen enthielten systematische Verzerrungen.

Dann kann das Modell solche Muster ebenfalls lernen.

Das ist einer der Gründe, warum KI-Risiken nicht erst beim fertigen Modell entstehen.

Sie können bereits beginnen bei:

Datenauswahl
↓
Modellierung
↓
Training
↓
Bewertung
↓
Einsatz

Die technische Frage:

Wie genau ist das Modell?

reicht deshalb häufig nicht.

Man muss auch fragen:

Bei wem funktioniert es?

Welche Fehler macht es?

Welche Folgen haben diese Fehler?

KI-Ausgaben sind häufig probabilistisch

Klassische Software liefert bei derselben klaren Eingabe häufig immer dieselbe fest definierte Ausgabe.

Viele KI-Systeme arbeiten dagegen mit Wahrscheinlichkeiten.

Ein Klassifikationssystem könnte beispielsweise berechnen:

Katze: 92 %
Hund: 6 %
anderes: 2 %

Ein Sprachmodell berechnet während der Texterzeugung Wahrscheinlichkeiten für mögliche Fortsetzungen.

Das erklärt, warum KI-Ergebnisse häufig nicht so eindeutig sind wie:

2 + 2 = 4

und warum ein KI-System auch bei sehr hoher Wahrscheinlichkeit falsch liegen kann.

99 Prozent Genauigkeit können hervorragend oder katastrophal sein

Angenommen, eine KI klassifiziert 99 Prozent aller Fälle korrekt.

Klingt ausgezeichnet.

Bei einer Anwendung mit 100 Vorgängen pro Jahr bedeutet das vielleicht einen Fehler.

Bei:

100 Millionen Vorgängen

bedeutet ein Prozent Fehler:

1.000.000 falsche Ergebnisse

Außerdem hängt die Bedeutung vom Fehler ab.

Ein falscher Musikvorschlag ist harmlos.

Eine falsch erkannte medizinische Diagnose kann schwerwiegend sein.

KI-Qualität lässt sich deshalb niemals allein durch eine beeindruckende Prozentzahl beurteilen.

Der Nutzungskontext entscheidet.

Predictive AI und generative KI verfolgen unterschiedliche Ziele

Viele klassische KI-Systeme erzeugen vor allem:

Vorhersagen,

Klassifikationen,

Bewertungen,

Empfehlungen.

Zum Beispiel:

Kreditausfall wahrscheinlich: 4 %

oder:

Bild enthält: Hund

oder:

empfohlenes Produkt: X

Generative KI erzeugt dagegen neue Inhalte.

NIST definiert generative künstliche Intelligenz als Klasse von KI-Modellen, die Strukturen und Eigenschaften ihrer Eingangsdaten nachbilden, um daraus synthetische Inhalte wie Text, Bilder, Video oder Audio zu erzeugen. (NIST Computer Security Resource Center)

Diese Unterscheidung ist hilfreich:

prädiktive KI
→ Was ist wahrscheinlich?

generative KI
→ Was kann daraus erzeugt werden?

Die Grenzen können sich in realen Systemen überschneiden.

Für das Grundverständnis ist die Trennung trotzdem sehr nützlich.

Chatbots sind deshalb nur ein kleiner Teil moderner KI

Seit dem Durchbruch großer Sprachmodelle verbinden viele Menschen künstliche Intelligenz hauptsächlich mit:

Frage
↓
Chat
↓
Antwort

KI existiert aber längst in vielen anderen Bereichen.

Zum Beispiel:

Bilderkennung

Ein System erkennt:

Objekte,

Gesichter,

Verkehrsschilder,

Fehler in Industrieprodukten,

Strukturen in medizinischen Aufnahmen.

Spracherkennung

Gesprochene Sprache wird in Text umgewandelt.

Damit funktionieren unter anderem:

Diktierfunktionen,

automatische Untertitel,

Sprachsteuerung.

Empfehlungssysteme

Systeme versuchen vorherzusagen, welche:

Filme,

Produkte,

Beiträge,

Musikstücke

für einen Nutzer relevant sein könnten.

Betrugserkennung

Zahlungen oder andere Transaktionen können anhand ungewöhnlicher Muster bewertet werden.

Prognosen

Modelle können aus historischen Daten Wahrscheinlichkeiten für zukünftige Entwicklungen ableiten.

Generative Systeme

Sie erzeugen:

Text,

Bilder,

Audio,

Video,

Code.

Alle diese Anwendungen können unter dem großen Begriff künstliche Intelligenz zusammengefasst werden.

Was ist generative KI?

Generative KI ist damit keine andere Bezeichnung für KI allgemein.

Sie ist ein Teilbereich beziehungsweise eine Klasse moderner KI-Anwendungen.

Das lässt sich vereinfacht so einordnen:

Künstliche Intelligenz
│
├── Vorhersage und Klassifikation
├── Wahrnehmung
├── Planung und Entscheidung
├── Empfehlungssysteme
└── generative KI
    ├── Text
    ├── Bilder
    ├── Audio
    ├── Video
    └── Code

In der Praxis verwenden moderne generative Systeme überwiegend Machine-Learning- und Deep-Learning-Verfahren. NIST zählt Text, Bilder, Audio und Video ausdrücklich zu möglichen generierten digitalen Inhalten. (NIST Computer Security Resource Center)

Das Thema ist groß genug für unseren nächsten eigenen Grundlagenartikel unter /wissen/generative-ki/.

Was ist ein Foundation Model?

Bei moderner generativer KI begegnet man häufig großen Modellen, die nicht nur für eine einzige enge Aufgabe trainiert wurden.

Ein solches Modell kann zunächst breite Muster aus sehr großen Datenmengen lernen und anschließend für viele unterschiedliche Anwendungen genutzt oder weiter angepasst werden.

NIST beschreibt Pre-Training als Trainingsphase, in der ein allgemeineres Modell aus großen Mengen häufig unbeschrifteter Daten allgemeine Muster, Merkmale und Beziehungen lernt. Darauf kann später unter anderem Fine-Tuning für bestimmte Aufgaben folgen. (NIST Computer Security Resource Center)

Vereinfacht:

großes Pre-Training
↓
allgemeines Modell
↓
verschiedene Anwendungen

Statt für jede Aufgabe von null zu beginnen, wird also ein bereits breit trainiertes Modell als Grundlage verwendet.

Was bedeutet Fine-Tuning?

Fine-Tuning ist eine weitere Trainingsphase auf Grundlage eines bereits vortrainierten Modells.

NIST beschreibt Fine-Tuning als Anpassung eines Pre-Trained Models für bestimmte Aufgaben oder einen bestimmten Fachbereich mit zusätzlichem aufgabenspezifischem Training. (NIST Computer Security Resource Center)

Vereinfacht:

allgemeines Modell
↓
zusätzliches spezialisiertes Training
↓
spezialisierteres Modell

Das unterscheidet sich von einem normalen Prompt.

Ein Prompt verändert den aktuellen Auftrag.

Fine-Tuning verändert das Modell selbst beziehungsweise seine Parameter durch weiteres Training.

Prompting ist kein Training

Dieser Unterschied ist für spätere praktische Anwendungen ausgesprochen wichtig.

Du gibst einem Sprachmodell:

Schreibe ab jetzt alle Antworten im Stil einer technischen Fachzeitschrift.

Das ist eine Anweisung im aktuellen Kontext.

Das Modell wurde dadurch nicht grundsätzlich neu trainiert.

Wenn der Kontext verschwindet, verschwindet normalerweise auch diese Information.

Beim Fine-Tuning werden dagegen Modellparameter auf Grundlage zusätzlicher Trainingsdaten angepasst. (NIST Computer Security Resource Center)

Wir können die Ebenen deshalb unterscheiden:

Prompt
→ aktuelle Anweisung

Kontext
→ aktuelle Informationen

RAG
→ relevante externe Informationen bereitstellen

Fine-Tuning
→ Modell durch weiteres Training verändern

Diese Trennung erspart später viele Missverständnisse.

Ein KI-Modell ist keine normale Wissensdatenbank

Ein Sprachmodell enthält nicht einfach eine Tabelle:

Frage:
Was ist DNS?

Antwort:
DNS ist ...

Sein Wissen steckt in komplexen erlernten mathematischen Beziehungen.

Deshalb kann es Informationen:

kombinieren,

anders formulieren,

verallgemeinern

und neue Ausgaben erzeugen.

Genau deshalb kann es aber auch Dinge produzieren, die in keiner Quelle so stehen und trotzdem plausibel klingen.

Eine Datenbank fragt:

Welcher Datensatz ist gespeichert?

Ein generatives Modell fragt mathematisch eher:

Welche Ausgabe passt anhand meiner gelernten Strukturen zu diesem Kontext?

Diese Unterscheidung ist zentral für das Verständnis von Halluzinationen.

KI besitzt nicht automatisch Zugriff auf aktuelle Informationen

Ein trainiertes Modell kennt zunächst nur das, was durch sein Training beziehungsweise spätere Anpassungen in sein Verhalten eingeflossen ist.

Wenn heute etwas Neues passiert, wird das Modell nicht magisch neu trainiert.

Aktuelle Informationen können einem KI-System stattdessen beispielsweise über:

Websuche,

Datenbanken,

APIs,

Dokumentensuche

bereitgestellt werden.

Dann entsteht:

aktuelle Daten
↓
Tool oder Retrieval
↓
Modell
↓
Antwort

Das ist ein komplettes KI-System.

Nicht einfach nur ein Modell.

Deshalb darf Modellwissen nicht mit Quellenwissen verwechselt werden

Wenn ein Modell sagt:

Laut Studie X …

muss Studie X nicht automatisch existieren.

Wenn ein System dagegen tatsächlich eine wissenschaftliche Datenbank durchsucht und anschließend eine gefundene Publikation nennt, ist die Situation eine andere.

Die Quelle stammt dann aus einem externen Informationssystem.

Das Sprachmodell formuliert lediglich auf ihrer Grundlage.

Für wissensintensive Anwendungen ist diese Trennung enorm wichtig:

Modell erinnert/rekonstruiert
≠
System hat Quelle tatsächlich abgerufen

KI kann außergewöhnlich leistungsfähig sein, ohne menschlich zu denken

Ein Computer kann beim Schach Menschen übertreffen.

Das bedeutet nicht, dass er darüber nachdenkt, wie traurig der Gegner nach einer Niederlage sein könnte.

Ein Bildmodell kann eine fotorealistische Stadt erzeugen.

Es muss deshalb keine Vorstellung davon besitzen, wie es ist, durch diese Stadt zu laufen.

Ein Sprachmodell kann einen empathisch klingenden Text erzeugen.

Daraus folgt nicht automatisch, dass es selbst ein Gefühl erlebt.

Leistung bei einer Aufgabe und menschliches Bewusstsein sind unterschiedliche Fragen.

Anthropomorphisierung ist praktisch – aber gefährlich

Im Alltag sagen wir:

Die KI versteht meine Frage.

Sie denkt nach.

Sie weiß das.

Solche Formulierungen sind bequem.

Problematisch werden sie, wenn daraus falsche Erwartungen entstehen.

Zum Beispiel:

Wenn die KI sagt, dass sie sicher ist, muss sie es überprüft haben.

Nicht unbedingt.

Oder:

Sie hat verstanden, dass diese Information vertraulich ist.

Nur wenn das System entsprechend gestaltet wurde.

Für technische Entscheidungen hilft deshalb eine nüchternere Sprache:

Modell erhält Eingabe
↓
verarbeitet Kontext
↓
erzeugt Ausgabe

Das klingt weniger menschlich.

Es hilft aber beim Verständnis der Technik.

Was bedeutet Autonomie bei KI?

Nicht jedes KI-System darf selbst handeln.

Ein Modell kann nur einen Vorschlag erzeugen:

Diese Rechnung wirkt verdächtig.

Ein Mensch entscheidet anschließend.

Ein anderes System könnte automatisch:

Transaktion blockieren

Der Unterschied liegt im Grad der Autonomie des Gesamtsystems.

Genau deshalb taucht der Begriff Autonomie auch in der OECD- und EU-Definition von KI-Systemen auf. (OECD AI)

Die Frage:

Wie leistungsfähig ist das Modell?

muss deshalb ergänzt werden durch:

Was darf das System mit seinen Ergebnissen tatsächlich tun?

Ein weniger leistungsfähiges Modell mit vielen Rechten kann riskanter sein

Vergleichen wir zwei Systeme.

System A:

sehr leistungsfähiges Modell
↓
darf nur Textvorschläge machen

System B:

einfacheres Modell
↓
darf Überweisungen auslösen

System B kann trotz schwächerem Modell das größere Risiko darstellen.

Bei realen KI-Anwendungen muss deshalb immer das gesamte System betrachtet werden:

Modell,

Daten,

Berechtigungen,

Automatisierung,

Kontrollmechanismen.

Das ist auch der Grund, warum ein eigener Artikel zu KI-Agenten später weit über die Frage hinausgehen muss, welches Sprachmodell eingesetzt wird.

KI kann adaptiv sein – muss es aber nicht

Manchmal entsteht die Vorstellung, jede KI lerne während ihrer täglichen Nutzung automatisch weiter.

Das ist nicht der Fall.

Ein trainiertes Modell kann nach der Bereitstellung vollständig unverändert bleiben.

Es führt lediglich Inferenz aus.

Andere Systeme können dagegen so gestaltet sein, dass sie anhand neuer Daten oder Rückmeldungen später erneut angepasst werden.

Die OECD und der AI Act berücksichtigen genau deshalb, dass KI-Systeme sich in ihrem Grad an Adaptivität nach dem Einsatz unterscheiden können. (OECD AI)

Ein Chat mit einem Modell bedeutet also nicht automatisch:

Ich habe gerade das globale Modell trainiert.

Speichert die KI mein Gespräch?

Diese Frage kann nicht aus dem Begriff KI beantwortet werden.

Ob Eingaben gespeichert werden, hängt vom konkreten Dienst und seiner technischen sowie organisatorischen Konfiguration ab.

Ein lokales Modell kann beispielsweise vollständig ohne externen Server betrieben werden.

Ein Cloudsystem kann Eingaben an Server übertragen.

Ein Unternehmenssystem kann Gespräche protokollieren.

Ein anderes kann sie löschen.

Das sind Eigenschaften des Systems und Dienstes, nicht der abstrakten KI-Technologie.

Genau deshalb sollte bei Datenschutzfragen immer untersucht werden:

Welche Daten?
↓
welches System?
↓
wohin übertragen?
↓
wie gespeichert?
↓
wer hat Zugriff?

Ist ein Algorithmus schon KI?

Ein Algorithmus ist zunächst einfach ein definiertes Verfahren zur Lösung einer Aufgabe.

Damit ist praktisch jedes Computerprogramm voller Algorithmen.

Nicht jeder Algorithmus ist künstliche Intelligenz.

Sortieren wir eine Namensliste alphabetisch, brauchen wir dafür einen Algorithmus.

Anna
Bernd
Claudia

Das würde niemand ernsthaft als KI-Anwendung bezeichnen.

Machine-Learning-Systeme verwenden ebenfalls Algorithmen.

Aber „Algorithmus“ und „KI“ sind keine Synonyme.

KI besteht selbst aus vielen normalen Algorithmen

Auch ein hochmodernes KI-System läuft auf normaler Computertechnik.

Darin finden sich:

Matrixberechnungen,

Speicheroperationen,

Netzwerkkommunikation,

Dateiverarbeitung,

Datenbankabfragen.

Es gibt keine mystische „Intelligenzschicht“, die außerhalb normaler Informatik existiert.

Moderne KI entsteht aus mathematischen Modellen, Daten, Lernverfahren und Software.

Diese Erkenntnis ist befreiend:

Man muss KI nicht mystifizieren, um ihre Fähigkeiten beeindruckend zu finden.

Was ist Narrow AI?

Fast alle heute praktisch eingesetzten KI-Systeme sind auf bestimmte Aufgaben beziehungsweise Aufgabenkategorien ausgerichtet.

Dafür wird häufig der Begriff:

Narrow AI

oder:

schwache KI

verwendet.

Ein System kann in seinem Spezialgebiet außergewöhnlich leistungsfähig sein und außerhalb dieses Bereichs praktisch nichts leisten.

Ein Schachsystem ist dafür das klassische Beispiel.

Es kann besser Schach spielen als fast jeder Mensch.

Es kann deshalb noch lange nicht:

ein Kind erziehen,

einen Motor reparieren,

eine wissenschaftliche Theorie diskutieren.

Große Sprachmodelle machen die Grenze unschärfer

Moderne Sprachmodelle sind bemerkenswert, weil ein einzelnes Modell sehr unterschiedliche sprachliche Aufgaben bearbeiten kann.

Zum Beispiel:

übersetzen,

zusammenfassen,

programmieren,

erklären,

klassifizieren,

planen.

Damit wirken sie wesentlich allgemeiner als frühere enge KI-Systeme.

Trotzdem bedeutet breite Aufgabenfähigkeit nicht automatisch menschliche allgemeine Intelligenz.

Die Frage nach wirklich allgemeiner künstlicher Intelligenz führt zu einem anderen Begriff.

Was bedeutet AGI?

AGI steht für Artificial General Intelligence.

Gemeint ist grob die Vorstellung einer künstlichen Intelligenz, die nicht nur einzelne Aufgaben beherrscht, sondern über sehr breite, flexibel einsetzbare kognitive Fähigkeiten verfügt.

Das Problem:

Es existiert keine allgemein akzeptierte Messgrenze, bei der eindeutig gesagt werden könnte:

ab hier = AGI

Der Begriff wird in Forschung, Unternehmen und öffentlicher Debatte unterschiedlich verwendet.

Deshalb sollte eine Aussage wie:

AGI kommt 2028.

nicht wie ein präziser technischer Liefertermin gelesen werden.

Sie hängt wesentlich davon ab, was der Sprecher überhaupt unter AGI versteht.

AGI ist für den praktischen KI-Einstieg nicht notwendig

Man kann heutige KI hervorragend verstehen und sinnvoll einsetzen, ohne die Frage beantworten zu müssen, ob Maschinen irgendwann eine allgemeine menschliche Intelligenz erreichen.

Für unsere praktische Arbeit sind zunächst konkretere Fragen wichtiger:

Wie funktioniert ein Modell?

Welche Daten benötigt es?

Woher kommen seine Informationen?

Welche Fehler macht es?

Welche Rechte bekommt es?

Wie prüfen wir seine Ausgabe?

Das sind heute lösbare Fragen.

AGI ist dagegen stärker eine Forschungs- und Zukunftsdebatte.

Was ist Superintelligenz?

Noch weiter geht der Begriff Artificial Superintelligence, häufig ASI.

Gemeint wäre ein hypothetisches System, das menschliche Fähigkeiten in sehr vielen oder praktisch allen relevanten kognitiven Bereichen deutlich übertrifft.

Auch das ist keine Beschreibung eines heute eindeutig definierten kommerziellen Produkttyps.

In allgemeinen Medien werden:

KI,

AGI,

Superintelligenz

häufig vermischt.

Für ein klares Verständnis sollte man sie auseinanderhalten:

heutige KI-Systeme
→ reale Technologien und Anwendungen

AGI
→ Konzept allgemeiner künstlicher Intelligenz

Superintelligenz
→ hypothetisch darüber hinausgehendes Konzept

Das verhindert, dass eine Diskussion über einen heutigen Bildgenerator plötzlich mit einer völlig anderen Zukunftsfrage vermischt wird.

Ist KI wirklich intelligent?

Darauf gibt es keine einfache naturwissenschaftliche Ja-Nein-Antwort, weil bereits menschliche Intelligenz kein einzelner sauber messbarer Mechanismus ist.

Für den praktischen Einsatz ist die philosophische Antwort allerdings weniger wichtig.

Interessanter ist:

Welche Fähigkeiten besitzt das System tatsächlich?

Kann es:

Texte verstehen und erzeugen?

Bilder erkennen?

planen?

Werkzeuge benutzen?

aus Beispielen generalisieren?

Fehler erkennen?

mit Unsicherheit umgehen?

Die Bezeichnung „intelligent“ allein sagt darüber wenig.

Ein Leistungsprofil ist wesentlich informativer.

KI kann Menschen in einzelnen Aufgaben deutlich übertreffen

Computer besitzen Vorteile bei:

Geschwindigkeit,

Speicherzugriff,

massiver Wiederholung,

mathematischen Berechnungen,

Verarbeitung großer Datenmengen.

Ein KI-System kann deshalb in einem eng definierten Bereich Ergebnisse erzeugen, die ein Mensch kaum in derselben Geschwindigkeit erreichen könnte.

Beispielsweise Millionen Vorgänge nach Mustern durchsuchen.

Das bedeutet nicht automatisch, dass es insgesamt „klüger“ als der Mensch ist.

Fähigkeiten sind nicht eindimensional.

Menschen besitzen wiederum andere Stärken

Menschen bringen unter anderem:

Lebenserfahrung,

soziales Verständnis,

Verantwortung,

körperliche Welterfahrung,

Werte,

situativen Kontext

in Entscheidungen ein.

Ein KI-System kann einige dieser Fähigkeiten in Ausgaben überzeugend imitieren oder modellieren.

Das ist nicht zwangsläufig dasselbe wie menschliche Erfahrung.

Die interessanteste Zukunftsfrage lautet deshalb für viele Anwendungen nicht:

Mensch oder KI?

Sondern:

Welche Teile einer Aufgabe kann welches System besser übernehmen?

KI kann Muster erkennen, die ein Mensch nicht erkennt

Ein besonders interessanter Vorteil von Machine Learning besteht darin, hochdimensionale Muster in großen Datenmengen zu finden.

Ein Mensch kann vielleicht zwei oder drei Faktoren gleichzeitig gut überblicken.

Ein Modell kann mathematisch sehr viele Variablen berücksichtigen.

Dadurch entstehen Anwendungen beispielsweise in:

Bildanalyse,

Qualitätskontrolle,

Anomalieerkennung,

Prognosen.

Allerdings entsteht daraus ein neues Problem:

Der Mensch möchte anschließend verstehen, warum ein bestimmtes Ergebnis entstanden ist.

Manche KI-Modelle sind schwer erklärbar

Ein einfaches Entscheidungsmodell kann vielleicht nachvollziehbar sagen:

Wenn A und B
→ Ergebnis C

Bei sehr großen neuronalen Netzen lässt sich eine einzelne Entscheidung häufig nicht so einfach auf eine menschenlesbare Regel reduzieren.

Dafür wird häufig der Begriff Black Box verwendet.

Das bedeutet nicht, dass niemand weiß, wie neuronale Netze mathematisch funktionieren.

Es bedeutet vielmehr, dass die konkreten internen Zusammenhänge einer bestimmten komplexen Entscheidung nicht immer leicht in eine einfache Erklärung übersetzt werden können.

Das kann besonders problematisch werden, wenn das Ergebnis große Folgen für Menschen hat.

Erklärbarkeit hängt vom Anwendungsfall ab

Ein Musikdienst empfiehlt ein Lied.

Warum genau?

Vielleicht ist eine grobe Erklärung ausreichend:

Weil du ähnliche Künstler hörst.

Ein medizinisches System empfiehlt eine Behandlung.

Hier können wesentlich höhere Anforderungen an Nachvollziehbarkeit entstehen.

Auch deshalb sollte KI nie nur anhand von Modellleistung bewertet werden.

Weitere Kriterien sind:

Transparenz,

Robustheit,

Sicherheit,

Nachvollziehbarkeit,

Datenschutz.

KI macht Fehler anders als klassische Software

Ein klassisches Programm besitzt beispielsweise einen reproduzierbaren Bug:

Eingabe X
→ immer falsches Ergebnis Y

Bei generativer KI kann derselbe Prompt abhängig von:

Modell,

Kontext,

Sampling,

Systemeinstellungen

unterschiedliche Ausgaben erzeugen.

Fehler können deshalb schwieriger zu reproduzieren sein.

Ein System muss entsprechend anders getestet werden.

Statt nur:

Test 1 bestanden

werden möglicherweise ganze Testsets und statistische Bewertungen nötig.

Das Thema Evaluation wird deshalb später einen eigenen Stellenwert bekommen.

KI ist nicht automatisch objektiv

Ein Modell ist Mathematik.

Daraus folgt nicht:

Das Ergebnis ist neutral.

Die Daten wurden in der realen Welt erzeugt.

Die Aufgabe wurde von Menschen definiert.

Trainingsziele wurden gewählt.

Grenzwerte wurden festgelegt.

Ein System wird in einem bestimmten Umfeld eingesetzt.

Auf jeder dieser Ebenen können Wertentscheidungen oder Verzerrungen entstehen.

Deshalb sollte KI-Ausgabe nicht automatisch als:

rein objektive Maschinenentscheidung

behandelt werden.

Menschliche Kontrolle löst allerdings auch nicht automatisch alles

Ein häufiges Sicherheitsargument lautet:

Am Ende prüft ein Mensch.

Das kann sinnvoll sein.

Aber nur, wenn der Mensch tatsächlich:

genug Informationen besitzt,

genug Zeit besitzt,

die Entscheidung hinterfragen darf

und nicht automatisch der Maschine vertraut.

Wenn ein System täglich 5.000 Entscheidungen erzeugt und ein Mitarbeiter theoretisch jede freigeben soll, ist echte Prüfung möglicherweise unrealistisch.

Human Oversight muss deshalb praktisch funktionieren – nicht nur auf dem Organigramm existieren.

Was bedeutet Halluzination?

Besonders bei generativer KI begegnet uns der Begriff Halluzination.

Ein Sprachmodell kann eine plausible Aussage generieren, obwohl sie sachlich falsch ist.

Zum Beispiel:

eine erfundene Studie,

eine falsche Jahreszahl,

eine nicht existente Softwarefunktion.

Das passiert, weil die Kernaufgabe eines generativen Sprachmodells nicht lautet:

Prüfe jede Aussage automatisch gegen eine garantierte Faktendatenbank.

Es erzeugt eine passende Ausgabe aus den gelernten Mustern und dem aktuellen Kontext.

Halluzination ist deshalb kein exotischer Programmfehler.

Sie gehört zu den grundlegenden Risiken generativer Modelle.

Dieses Thema behandeln wir später ausführlich unter:

/wissen/ki-halluzinationen/.

Ein klassisches Klassifikationsmodell halluziniert nicht im selben Sinn

Ein Bilderkennungsmodell kann natürlich falsch entscheiden.

Es sagt vielleicht:

Hund

obwohl das Bild eine Katze zeigt.

Das wird eher als Fehlklassifikation beschrieben.

Der Halluzinationsbegriff wird vor allem bei generativen Systemen verwendet, weil dort neue scheinbar sinnvolle Inhalte entstehen können, die faktisch keine Grundlage besitzen.

Damit wird erneut deutlich:

Nicht jede KI macht dieselbe Art von Fehler.

Der richtige Prüfmechanismus hängt von der KI-Art ab

Bildklassifikation:

Accuracy
Precision
Recall
Fehlerklassen

Textgeneration:

Faktentreue
Relevanz
Struktur
Quellen
Halluzinationen

Automatischer Agent:

Zielerreichung
Werkzeugwahl
Berechtigungen
Fehlaktionen
Kosten

Ein einziges allgemeines:

KI funktioniert zu 95 Prozent

wäre deshalb kaum aussagekräftig.

Jede Aufgabe braucht geeignete Bewertungsmaßstäbe.

KI braucht nicht immer riesige Modelle

Die öffentliche Aufmerksamkeit konzentriert sich stark auf große generative Modelle.

Viele reale KI-Aufgaben können jedoch mit wesentlich kleineren Modellen gelöst werden.

Wenn ein System nur entscheiden soll:

Spam
oder
kein Spam

braucht es nicht zwingend ein gigantisches Sprachmodell.

Ein spezialisiertes kleineres Modell kann:

schneller,

günstiger,

berechenbarer

sein.

Das ist für unsere späteren Automatisierungsartikel besonders wichtig.

Größer bedeutet nicht automatisch wirtschaftlicher

Ein großes Modell kann bessere Fähigkeiten besitzen.

Aber wenn es für eine Aufgabe:

zehnmal mehr kostet,

fünfmal länger braucht

und nur geringfügig bessere Ergebnisse liefert,

kann ein kleineres Modell die bessere Systementscheidung sein.

Modellwahl ist deshalb ein Optimierungsproblem aus mehreren Faktoren:

Qualität
+
Geschwindigkeit
+
Kosten
+
Hardware
+
Datenschutz
+
Zuverlässigkeit

Die höchste Benchmarkzahl ist nicht automatisch die beste Lösung.

Lokal und Cloud ändern nicht die grundsätzliche KI-Art

Dasselbe Modellprinzip kann auf:

Cloudservern

oder

eigener Hardware

laufen.

Die Begriffe beantworten unterschiedliche Fragen.

Machine Learning
→ Wie funktioniert das Modell?

generative KI
→ Welche Art Ausgabe erzeugt es?

lokale KI
→ Wo wird es betrieben?

Das wird häufig vermischt.

Ein lokales Sprachmodell bleibt ein Sprachmodell.

Ein Cloud-Bildgenerator bleibt Bild-KI.

„Lokal“ beschreibt Infrastruktur.

Nicht Intelligenztyp.

Ein KI-System braucht immer normale IT

Selbst die fortschrittlichste KI benötigt:

CPU,

Speicher,

Netzwerk,

Dateisystem,

Betriebssystem,

Software,

Zugriffsrechte.

Ein lokaler KI-Server ist deshalb immer auch ein normaler Server.

Er muss:

aktualisiert,

gesichert,

überwacht,

administriert

werden.

KI ersetzt klassische IT nicht.

Sie kommt als zusätzliche Schicht hinzu.

KI kann Software verändern, aber nicht sämtliche Software ersetzen

Ein Login sollte möglichst deterministisch funktionieren.

Eine Datenbank sollte Daten zuverlässig speichern.

Ein Backup sollte reproduzierbar gesichert werden.

Eine Addition sollte exakt sein.

Für solche Aufgaben ist generative Unschärfe kein Vorteil.

KI ist besonders stark dort, wo klassische Software Schwierigkeiten mit:

Sprache,

Bildern,

Mehrdeutigkeit,

komplexen Mustern,

unstrukturierten Informationen

hat.

Die interessante Architektur lautet deshalb häufig:

klassische Software
+
KI

nicht:

KI statt jeder Software

Was KI besonders macht

Nach all den Abgrenzungen bleibt die Frage:

Warum erleben wir gerade einen solchen KI-Boom?

Ein wesentlicher Grund liegt darin, dass moderne Modelle Aufgaben beherrschen, die früher nur mit erheblichem Spezialaufwand automatisierbar waren.

Natürliche Sprache ist dafür das beste Beispiel.

Früher musste ein Mensch lernen, wie die Software bedient wird.

Heute kann zunehmend die Software versuchen, den Menschen zu verstehen.

Statt:

SELECT * FROM tickets WHERE ...

kann jemand fragen:

Zeig mir alle dringenden Supportfälle von dieser Woche, bei denen WordPress erwähnt wurde.

Das verändert die Schnittstelle zwischen Menschen und Software.

Natürliche Sprache wird zur Bedienoberfläche

Ein Sprachmodell kann zwischen:

menschlicher Absicht

und

technischer Struktur

vermitteln.

Beispielsweise:

"Mach daraus einen Termin für nächsten Dienstag."
↓
Sprachmodell interpretiert
↓
Datum und Aktion werden strukturiert
↓
Kalendersystem

Das ist möglicherweise eine der langfristig bedeutendsten Veränderungen.

Nicht weil ein Chatfenster besonders spektakulär aussieht.

Sondern weil Menschen Computersysteme zunehmend in ihrer eigenen Sprache steuern können.

Multimodale KI erweitert dieses Prinzip

Moderne KI-Systeme müssen nicht auf Text beschränkt sein.

Sie können unterschiedliche Datenarten verarbeiten.

Zum Beispiel:

Text,

Bild,

Audio,

Video.

Ein multimodales System könnte:

Foto erhalten
↓
Bild analysieren
↓
Textfrage verstehen
↓
Antwort formulieren

Oder:

Audio
↓
Sprache erkennen
↓
Inhalt verstehen
↓
Antwort als Sprache

Damit verschwimmen klassische Grenzen zwischen einzelnen KI-Systemen zunehmend.

Trotzdem bleiben Modalitäten technisch relevant

Ein System, das Text und Bilder akzeptiert, verarbeitet nicht zwangsläufig beide Datenarten auf exakt dieselbe Weise.

Unter der Benutzeroberfläche können mehrere Modelle beziehungsweise Komponenten zusammenspielen.

Auch deshalb bleibt unsere Unterscheidung zwischen:

Modell

und

System

so wichtig.

Ein Produkt kann wie eine einzige KI erscheinen, obwohl im Hintergrund mehrere spezialisierte Technologien zusammenarbeiten.

Künstliche Intelligenz ist damit eine Systemtechnologie

KI lässt sich nicht sinnvoll nur als neues Office-Programm betrachten.

Sie kann Bestandteil sehr unterschiedlicher Systeme werden.

Zum Beispiel:

Website
+
KI

oder:

CRM
+
KI

oder:

Bildbearbeitung
+
KI

oder:

Automatisierung
+
KI

oder:

Server
+
lokales Modell

Das erklärt, warum KI nahezu alle anderen Wissensbereiche von Casiopeya berühren wird.

Design trifft auf KI

Bildgeneratoren verändern:

Illustration,

Fotobearbeitung,

Designentwürfe,

Video.

Damit führt KI direkt zu Design & Medien.

Webentwicklung trifft auf KI

Sprachmodelle unterstützen:

Programmierung,

Contentverwaltung,

Websiteanalyse,

Support.

Damit gibt es starke Verbindungen zu Web & WordPress.

Sicherheit trifft auf KI

KI-Systeme verarbeiten möglicherweise:

vertrauliche Dokumente,

personenbezogene Daten,

Zugangsdaten,

Unternehmenswissen.

Damit werden:

Berechtigungen,

Datenschutz,

Backups,

Sicherheit

unmittelbar relevant.

KI ist deshalb kein isolierter neuer Technikbereich.

Sie wird zunehmend eine Schicht innerhalb bestehender digitaler Systeme.

Wann ist eine Anwendung überhaupt sinnvoll für KI?

Eine praktische Frage lautet:

Gibt es ausreichend Mehrdeutigkeit oder Mustererkennung, dass ein lernendes beziehungsweise inferierendes System einen Vorteil bringt?

Gute Kandidaten können sein:

unstrukturierte Texte,

Bilder,

Sprache,

komplexe Muster,

Prognosen,

Klassifikation.

Schlechtere Kandidaten sind häufig Aufgaben mit vollständig eindeutiger klassischer Regel.

Beispiel:

Mehrwertsteuer von 100 Euro berechnen

Dafür brauchen wir keine generative KI.

Eine normale Berechnung ist:

billiger,

schneller,

exakt.

Nicht jede moderne Lösung braucht KI

Das klingt selbstverständlich.

In Zeiten großer KI-Begeisterung ist es trotzdem eine wichtige technische Regel.

Wenn ein Problem durch:

IF A
THEN B

zuverlässig gelöst werden kann, sollte man gute Gründe benötigen, stattdessen ein probabilistisches Modell einzusetzen.

KI bringt neue Fähigkeiten.

Sie bringt gleichzeitig neue Probleme:

Fehlerwahrscheinlichkeit,

Kosten,

Latenz,

Datenfragen,

Testaufwand.

Technologie sollte nur eingesetzt werden, wenn ihre Vorteile diese zusätzlichen Schwierigkeiten rechtfertigen.

Ein gutes KI-System kombiniert verschiedene Verfahren

Nehmen wir einen automatischen Dokumentenassistenten.

Er könnte bestehen aus:

Dokument
↓
Textextraktion
↓
klassische Software
↓
Dokumentensuche
↓
Vektorsuche
↓
Sprachmodell
↓
strukturierte Ausgabe
↓
klassische Validierung
↓
Datenbank

Welche Komponente ist nun „die KI“?

Mehrere Teile können KI beziehungsweise Machine Learning verwenden.

Andere sind klassische Software.

Genau deshalb ist die Architektur eines Systems häufig wichtiger als die Marke des einzelnen Modells.

Die Zukunft wird wahrscheinlich noch hybrider

Viele Systeme werden nicht vollständig KI-basiert oder vollständig regelbasiert sein.

Sie werden beide Ansätze kombinieren.

Zum Beispiel:

harte Geschäftsregel
↓
klassische Software

Textinterpretation
↓
KI

Zahlungsberechnung
↓
klassische Software

Beschreibung erzeugen
↓
KI

Freigaberecht prüfen
↓
klassische Software

Jede Methode übernimmt das, worin sie besonders gut ist.

Das ist wesentlich robuster als der Versuch, jede Aufgabe einem Sprachmodell zu überlassen.

Was du dir über künstliche Intelligenz merken solltest

Künstliche Intelligenz ist kein einzelnes Programm und kein einzelnes Modell.

Sie bezeichnet eine große Klasse maschinenbasierter Systeme, die aus Eingaben Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen ableiten können. Moderne Definitionen von OECD und EU AI Act betonen genau diese Eigenschaft sowie unterschiedliche Grade von Autonomie und möglicher Adaptivität. (OECD AI)

Ein KI-Modell ist dabei nur eine mögliche Komponente eines größeren KI-Systems. (NIST Computer Security Resource Center)

Machine Learning ist ein wichtiger Teilbereich künstlicher Intelligenz, bei dem Computersysteme aus Daten lernen beziehungsweise ihre Modellparameter anhand von Trainingsdaten anpassen. (NIST Computer Security Resource Center)

Innerhalb des Machine Learnings existieren verschiedene Lernformen. Beim Supervised Learning lernt das Modell anhand vorgegebener Zielwerte, beim Unsupervised Learning sucht es Muster in unbeschrifteten Daten, und beim Self-Supervised Learning werden Lernaufgaben automatisch aus den vorhandenen Daten erzeugt. (NIST Computer Security Resource Center)

Deep Learning verwendet tiefe neuronale Netze und bildet die technische Grundlage vieler moderner Anwendungen in Bild- und Sprachverarbeitung.

Training bezeichnet die Phase, in der ein Modell anhand von Daten angepasst wird. Inferenz bezeichnet die spätere Nutzung des trainierten Modells für neue Eingaben.

Generative KI ist wiederum nicht dasselbe wie KI insgesamt. Sie bezeichnet KI-Modelle, die neue synthetische Inhalte wie Text, Bilder, Audio oder Video erzeugen können. (NIST Computer Security Resource Center)

Ein KI-System muss nicht automatisch:

bewusst,

allwissend,

objektiv,

fehlerfrei

oder autonom

sein.

Und nicht jede Automatisierung benötigt künstliche Intelligenz.

Die für die Praxis wichtigste Unterscheidung lautet deshalb:

klare Regel vorhanden?
→ klassische Software

Muster oder Bedeutung müssen
aus Daten abgeleitet werden?
→ KI kann sinnvoll sein

Danach wird geprüft:

Welche KI?

Welches Modell?

Welche Daten?

Wie hoch sind die Fehlerkosten?

Welche Kontrolle ist notwendig?

Genau aus diesen Fragen entsteht ein belastbares KI-System.