Direkt zum Hauptinhalt

Was ist Künstliche Intelligenz (AI)?

von Databricks-Mitarbeiter

  • Die Wirkung von AI resultiert aus ihrer Vielseitigkeit: Dieselben Fähigkeiten zur Mustererkennung treiben heute alles an – von der Betrugserkennung und medizinischen Bildgebung bis hin zu Personalisierung und Inhaltserstellung.
  • Die Leistungsfähigkeit von AI entwickelt sich schneller als ihre Zuverlässigkeit, was Evaluierung, menschliche Aufsicht und Governance für den produktiven Einsatz unerlässlich macht.
  • Die nächste Phase der AI-Einführung wird weniger durch den Zugang zu Modellen definiert sein, sondern vielmehr dadurch, wie effektiv Unternehmen Modelle mit vertrauenswürdigen Daten, realen Workflows und messbaren Ergebnissen verknüpfen.

Künstliche Intelligenz (AI) ist ein Teilgebiet der Informatik, das es Maschinen ermöglicht, Aufgaben auszuführen, die normalerweise menschliche Intelligenz erfordern, wie Lernen, logisches Denken, Problemlösung, Mustererkennung und Entscheidungsfindung. Einfach ausgedrückt ist AI eine Software, die aus Daten lernt und das Gelernte nutzt, um Vorhersagen, Entscheidungen oder neue Inhalte zu treffen bzw. zu erstellen, ohne explizit für jede Aufgabe programmiert zu sein.

Die heutige AI betreibt alles von Spam-Filtern und Empfehlungs-Engines bis hin zu Chatbots wie ChatGPT und Bildgeneratoren. Sie greift auf eine Reihe von Techniken zurück, insbesondere auf Machine Learning und generative AI, und hat den Weg aus den Forschungslaboren in Produkte gefunden, die Menschen täglich nutzen.

Die Stanford-Informatikerin Fei-Fei Li ordnet AI im Stanford Emerging Technology Review in dieselbe Kategorie ein wie die transformativsten Technologien der modernen Geschichte: „AI ist eine Basistechnologie, die andere wissenschaftliche Bereiche voranbringt und, wie Elektrizität und das Internet, das Potenzial hat, die Funktionsweise der Gesellschaft zu verändern.“ Die Einführung skaliert mittlerweile in allen Sektoren, vom Gesundheitswesen und Finanzdienstleistungen bis hin zu Einzelhandel und Fertigung, und das Tempo beschleunigt sich.

Diese Seite beschreibt, wie AI funktioniert, welche Hauptarten von AI es gibt, zeigt Praxisbeispiele, nennt Einschränkungen, auf die man achten sollte, und bietet einen kurzen historischen Überblick über das Fachgebiet.

Was ist AI in einfachen Worten?

Stellen Sie sich AI so vor, als würden Sie einem Computer etwas anhand von Beispielen beibringen, anstatt Schritt-für-Schritt-Anleitungen zu schreiben. Zeigen Sie einem System Tausende von Katzenfotos, und es lernt, Katzen selbstständig zu erkennen – nicht, weil ihm jemand gesagt hat, dass Katzen Schnurrhaare und spitze Ohren haben, sondern weil es genügend Beispiele gesehen hat, um das Muster zu erkennen. AI „denkt“ nicht so wie Sie oder ich. Sie findet Muster in Daten und nutzt diese Muster für eine bestmögliche Schätzung. Dieser Unterschied ist wichtig: AI kann in eng begrenzten Bereichen bemerkenswert gute Ergebnisse erzielen, versteht aber im menschlichen Sinne überhaupt nichts.

Derselbe Mustererkennungsansatz, mit dem ein Modell Katzen erkennt, ermöglicht es ihm auch, Krebszellen in einer Biopsie aufzuspüren oder betrügerische Transaktionen unter Millionen legitimer Transaktionen zu kennzeichnen. Der zugrunde liegende Mechanismen – das Finden von Mustern in Daten – ist derselbe, selbst wenn die Anwendung völlig anders aussieht. Sie ist bereits Teil alltäglicher Tools: Suchmaschinen, Sprachassistenten, Navigations-Apps, Spam-Filter und die Empfehlungen, die Sie auf Streaming-Diensten sehen.

Wie funktioniert AI?

Die meiste moderne AI funktioniert, indem sie Muster aus großen Datenmengen lernt und diese Muster dann auf neue Situationen anwendet. Anstatt dass ein Entwickler Regeln schreibt („Wenn E-Mail ‚kostenloses Geld‘ enthält, als Spam markieren“), werden dem System viele Beispiele gezeigt, und es findet die Regeln selbst heraus.

Der grundlegende Prozess sieht wie folgt aus:

  1. Daten sammeln. Das System wird mit großen Mengen an relevanten Texten, Bildern, Zahlen, Audio- oder Videodateien gefüttert, und Lücken in diesen Daten führen zu Lücken im Modell.
  2. Ein Modell trainieren. Ein Algorithmus analysiert die Daten und passt seine internen Gewichtungen und Parameter an, bis er zuverlässig korrekte Ergebnisse liefert – ein rechenintensiver Schritt, der über viele GPUs hinweg Stunden, Tage oder Wochen dauern kann.
  3. Testen und verfeinern. Das Modell wird anhand eines zurückgehaltenen Testdatensatzes evaluiert, mit dem es nicht trainiert wurde. Fehler hier abzufangen ist weitaus kostengünstiger, als sie erst in der Produktion zu entdecken.
  4. Vorhersagen treffen. Nach dem Training beantwortet das Modell Fragen, klassifiziert Eingaben, generiert Inhalte oder löst Aktionen auf der Grundlage von Daten aus, die es noch nie gesehen hat – der Schritt der „Inferenz“, mit dem Endbenutzer tatsächlich interagieren.
  5. Lernen und verbessern. Viele AI-Systeme verbessern sich kontinuierlich, wenn sie mit mehr Daten und Feedback gefüttert werden, einschließlich Signalen darüber, wie Menschen auf ihre Ergebnisse reagieren.

Modernes AI-Training ist auch eine Frage der Skalierung: Frontier-Modelle werden mit Billionen von Text-Tokens trainiert, laufen auf Zehntausenden von GPUs und kosten in der Entwicklung Hunderte Millionen Dollar. Die meisten Unternehmen trainieren Modelle nicht von Grund auf neu. Stattdessen nehmen sie ein Fine-Tuning bestehender Foundation Models mit ihren eigenen Daten vor, was drastisch schneller und kostengünstiger ist und dennoch Modelle liefert, die auf eine bestimmte Aufgabe oder Domäne zugeschnitten sind.

Die Qualität eines AI-Systems hängt stark von den Daten ab, aus denen es lernt: Wenn die Trainingsdaten unvollständig, verzerrt oder von geringer Qualität sind, werden es die AI-Ergebnisse ebenfalls sein. Mehr über die Bausteine erfahren Sie in unseren Übersichten zu Machine-Learning-Modellen und neuronalen Netzen.

Was sind die 4 Arten von AI?

Forschende unterteilen AI üblicherweise basierend auf ihren Fähigkeiten in vier Kategorien – eine Taxonomie, die meist auf den Forscher Arend Hintze von der Michigan State University zurückgeht, der sie 2016 als Denkmodell für die Entwicklung von AI vorschlug. Heute existieren in der realen Welt nur die ersten beiden Kategorien, während die anderen beiden offene Fragen in Forschung und Philosophie bleiben.

Die Taxonomie ist nützlich, weil sie eine klare Trennlinie zieht zwischen dem, was AI heute tatsächlich leisten kann, und dem, was sie nur in der Theorie oder in der Fiktion kann.

TypFunktionsweiseStatus heuteBeispiel
Reaktive MaschinenReagiert auf eine bestimmte Eingabe mit einer festen Ausgabe. Hat kein Gedächtnis für vergangene Ereignisse, keine Fähigkeit, aus Erfahrung zu lernen, und kein Modell der Welt über die unmittelbare Eingabe hinaus.Gehört zu den frühesten AI-Architekturen; wird auch heute noch für eng begrenzte Aufgaben eingesetzt.Deep Blue von IBM, das 1997 den Schachweltmeister Garri Kasparow besiegte, bewertete das Brett in jedem Zug von Grund auf neu. Einfache Spam-Filter, die Schlüsselwörter mit einer festen Liste abgleichen, gehören zur selben Kategorie.
Begrenztes GedächtnisLernt aus historischen Daten, um Vorhersagen oder Entscheidungen zu treffen. Kann aktuelle Eingaben nutzen, um seine Ergebnisse zu verfeinern, behält jedoch kein dauerhaftes Langzeitgedächtnis wie der Mensch.Treibt fast alle modernen AI-Systeme in der Produktion an, einschließlich der leistungsfähigsten Systeme.Selbstfahrende Autos, die auf kurzfristige Sensordaten zurückgreifen, um den weiteren Straßenverlauf vorherzusehen. ChatGPT, das den Kontext der aktuellen Konversation beibehält, aber in einer neuen Sitzung von vorne beginnt. Die Empfehlungs-Engine von Netflix, die im Laufe der Zeit aus dem Sehverhalten lernt.
Theory of MindWürde die Emotionen, Absichten und Überzeugungen anderer Menschen verstehen – die kognitive Fähigkeit, den Geist eines anderen zu modellieren. Forschende untersuchen erste Ansätze, aber kein System demonstriert dies tatsächlich.Theoretisch; aktives Forschungsgebiet.Noch nicht entwickelt. Die am nächsten kommenden Entsprechungen sind AI-Tutoren und Kundenservice-Bots, die ihren Tonfall an Nutzersignale anpassen. Dabei handelt es sich jedoch um Mustererkennung und nicht um ein echtes Verständnis von Absichten.
Selbstbewusste AIHätte ein Bewusstsein, ein Selbstwertgefühl und ein inneres Erleben der eigenen Existenz.Theoretisch. Ob dies erreichbar oder überhaupt definierbar ist, ist unter Forschenden und Philosophierenden umstritten.Noch nicht entwickelt. Wird oft in der Science-Fiction und in Debatten über AI-Sicherheit diskutiert, aber derzeit gibt es keinen klaren technischen Weg dorthin.

Fast jedes AI-Produkt, das Menschen heute nutzen, einschließlich der leistungsfähigsten Large Language Models, fällt in die Kategorie des begrenzten Gedächtnisses.

Spezifische AI vs. Allgemeine AI vs. Superintelligenz

Alle heute verwendeten AI-Systeme werden als spezifische AI eingestuft. Die folgende Tabelle unterscheidet diese aktuellen Systeme von den theoretischen Konzepten der allgemeinen AI und der Superintelligenz.

KategorieDefinitionStatus heuteBeispiel
Spezifische AI (Narrow AI)AI-Systeme, die für die Ausführung bestimmter, domänenbegrenzter Aufgaben entwickelt wurden und deren Fähigkeiten streng durch ihre Trainingsdaten und ihr Architekturdesign begrenzt sind.Sämtliche heute genutzte AI, einschließlich der leistungsfähigsten Systeme.ChatGPT, Gesichtserkennung, Netflix-Empfehlungen, Betrugserkennung, Sprachassistenten.
Allgemeine AI (AGI)Ein System, das darauf ausgelegt ist, jede intellektuelle Aufgabe zu erlernen und auszuführen, die auch ein Mensch bewältigen kann: flexibel, domänenübergreifend und ohne erneutes Training.Theoretisch. Es gibt eine aktive Debatte darüber, ob aktuelle Entwicklungen zu einer AGI führen werden und in welchem Zeitrahmen.Keine.
SuperintelligenzEin System, das in der Lage ist, die menschliche Intelligenz in jedem Bereich zu übertreffen, einschließlich der Fähigkeit zur Selbstverbesserung.Theoretisch und weitgehend spekulativ.Keine.

Ob AGI heute bereits existiert, hängt weitgehend davon ab, wie sie definiert wird. Fortgeschrittene Modelle können domänenübergreifend logisch denken und komplexe Aufgaben lösen, aber ihre anhaltenden Fehler und die ungleichmäßige Zuverlässigkeit machen die Klassifizierung umstritten.

AI vs. Machine Learning vs. Deep Learning vs. Generative AI

Diese vier Begriffe werden oft synonym verwendet, bedeuten jedoch unterschiedliche Dinge. Diese Unterschiede sind wichtig, wenn Teams Tools auswählen, Projekte konzipieren oder Anbieter bewerten.

Man kann sich das Ganze gut wie ineinandergeschachtelte Kreise vorstellen: AI ist die umfassendste Kategorie, Machine Learning ist eine Untergruppe von AI, Deep Learning ist eine Untergruppe von Machine Learning und generative AI ist eine Anwendung von Deep Learning, die sich auf die Erstellung neuer Inhalte konzentriert. Die folgende Tabelle zeigt, was die einzelnen Begriffe bedeuten und wie sie sich unterscheiden. Einen genaueren Vergleich finden Sie in unserer Gegenüberstellung von Machine Learning vs. Deep Learning.

BegriffBedeutungEinfaches Beispiel
Künstliche Intelligenz (AI)Das breite Feld der Entwicklung von Maschinen, die Aufgaben ausführen, die menschliche Intelligenz erfordern. Umfasst sowohl regelbasierte Systeme als auch lernende Systeme.Ein Chatbot, der Kundenfragen beantwortet – unabhängig davon, ob er aus Daten gelernt hat oder einer vorgegebenen Logik folgt.
Machine Learning (ML)Eine Untergruppe von AI, bei der Systeme Muster aus Daten lernen, anstatt explizit für jede einzelne Regel programmiert zu werden.Ein Modell, das durch die Analyse des vergangenen Verhaltens vorhersagt, welche Kunden im nächsten Quartal am wahrscheinlichsten abwandern werden.
Deep LearningEine Untergruppe von ML, die mehrschichtige neuronale Netze nutzt, um komplexe Eingaben wie Bilder, Sprache und Text zu verarbeiten, mit denen frühere ML-Techniken Schwierigkeiten hatten.Bilderkennung, die Tumore in radiologischen Scans identifiziert.
Generative AIEine Form des Deep Learning, die neue Inhalte (Text, Bilder, Audio, Video oder Code) erstellt, anstatt diese nur zu klassifizieren oder vorherzusagen.ChatGPT schreibt eine E-Mail; ein Bildgenerator erstellt ein originelles Kunstwerk aus einer Texteingabe (Prompt).

Was sind Beispiele für künstliche Intelligenz?

AI läuft bereits unbemerkt im Hintergrund alltäglicher Tools: Sie entwirft E-Mails, erkennt Betrug in Millisekunden und prognostiziert Lagerbestände. Der Weg vom Prototyp zum integrierten Produkt hat sich drastisch verkürzt, und die von Databricks angebotenen Lösungen decken viele dieser Kategorien ab:

BrancheAI-Beispiel
GesundheitswesenAI, die medizinische Bilder auswertet, um Radiologen bei der Früherkennung von Krebs zu unterstützen; klinische Entscheidungsunterstützungssysteme, die auf potenzielle Wechselwirkungen von Medikamenten hinweisen; Agenten, die Patientenakten für Ärzte zusammenfassen.
FinanzdienstleistungenSysteme zur Betrugserkennung, die verdächtige Kreditkartentransaktionen in Echtzeit melden; algorithmischer Handel; AI-gestützte Risikoprüfung für Kredite und Versicherungen.
Einzelhandel und E-CommerceProduktempfehlungen auf Amazon; personalisierte Suchergebnisse; Bedarfsprognosen, die bestimmen, wie viel Bestand in den einzelnen Lagern vorgehalten werden soll.
TransportwesenFunktionen für autonomes Fahren in Fahrzeugen; Routenoptimierung in Navigations-Apps; Predictive Maintenance (vorausschauende Wartung), die prognostiziert, wann ein Fahrzeug gewartet werden muss.
FertigungComputer-Vision-Systeme, die Fehler auf Montagebändern erkennen; Predictive Maintenance an Fabrikanlagen; Optimierung der Lieferkette.
KundenserviceChatbots und virtuelle Agenten, die Supportfragen beantworten; AI, die Anrufe an die richtigen menschlichen Mitarbeiter weiterleitet; Sentiment-Analyse (Stimmungsanalyse) bei Kundeninteraktionen.
Medien und UnterhaltungEmpfehlungen von Netflix und Spotify; generative Tools für die Video- und Musikproduktion; AI-gestützte Untertitelung und Übersetzung.
Alltägliche VerbrauchertechnologieSprachassistenten (Siri, Alexa), Spam-Filter für E-Mails, Entsperrung von Smartphones per Gesichtserkennung, Foto-Apps, die Gesichter und Orte erkennen.

Die enorme Bandbreite ist das Entscheidende. AI konzentriert sich nicht mehr nur auf einige wenige technische Anwendungen, sondern hat Einzug in fast jeden Arbeitsbereich gehalten, in dem Mustererkennung oder die Erstellung von Inhalten einen Mehrwert bieten. Die Einführungsmuster sind meist überall gleich: Die erste Welle übernimmt klar abgegrenzte, repetitive Aufgaben. Spätere Wellen übernehmen komplexere Aufgaben, die mehr Urteilsvermögen erfordern, sobald die Modellfunktionen ausgereifter sind und Unternehmen die dafür erforderlichen Datengrundlagen geschaffen haben.

Bericht

Das Playbook für agentenbasierte KI für Unternehmen

Was sind die Hauptbereiche der AI?

AI ist ein Oberbegriff, der mehrere spezialisierte Bereiche umfasst. Jeder Teilbereich konzentriert sich auf eine andere Art von Aufgabe oder Fähigkeit, obwohl die Grenzen zwischen ihnen verschwimmen, da Deep Learning mittlerweile die gemeinsame Basis für einen Großteil dieser Arbeit bildet.

  • Machine Learning: Systeme, die Muster aus Daten lernen und sich durch Erfahrung verbessern. Der heute dominierende Ansatz innerhalb der AI und das Fundament, auf dem die meisten anderen Bereiche aufbauen.
  • Deep Learning: Eine fortschrittlichere Form des Machine Learning, die vielschichtige neuronale Netze nutzt, um komplexe Eingaben wie Bilder, Sprache und Text zu verarbeiten. Der Durchbruch, der die aktuelle AI-Welle erst möglich gemacht hat.
  • Natural Language Processing (NLP): Das Verstehen und Generieren menschlicher Sprache. NLP bildet die Basis für Chatbots, Übersetzungen, Sprachassistenten und Sentiment-Analysen. Weitere Informationen finden Sie in unserer Übersicht zu Natural Language Processing.
  • Computer Vision: Das Interpretieren von Bildern und Videos. Wird bei der Gesichtserkennung, der medizinischen Bildgebung, der Qualitätsprüfung in der Fertigung und den Wahrnehmungssystemen eingesetzt, mit denen selbstfahrende Autos die Straße erkennen. Lesen Sie mehr über Computer Vision.
  • Robotik: Die Kombination von AI mit physischen Maschinen zur Ausführung von Aufgaben in der realen Welt: Lagerroboter, OP-Assistenten, autonome Fahrzeuge, landwirtschaftliche Drohnen. Die Schnittstelle zwischen AI-Software und Maschinenbau.
  • Generative AI: Modelle, die neue Inhalte erstellen, anstatt nur vorhandene Daten zu analysieren. Text, Bilder, Audio, Video und Code gehören dazu. Der Bereich, der 2022 mit ChatGPT schlagartig im öffentlichen Bewusstsein verankert wurde.
  • Expertensysteme: Ältere, regelbasierte AI, die die Entscheidungsfindung eines menschlichen Experten in einem eng begrenzten Bereich nachahmt. Weitgehend durch Machine-Learning-Ansätze ersetzt, wird aber immer noch dort eingesetzt, wo explizite, überprüfbare Regeln erforderlich sind.

In der Praxis kombinieren die meisten modernen AI-Systeme mehrere Teilbereiche. Ein selbstfahrendes Auto nutzt Computer Vision, um die Umgebung wahrzunehmen, Machine Learning, um das Verhalten von Fahrzeugen in der Nähe vorherzusagen, und Robotik, um die Steuerung zu betätigen. Die einzelnen Bereiche sind als gedankliche Orientierung nützlich, aber die tatsächlichen Produkte vereinen meist mehrere davon.

Eine kurze Geschichte der AI

AI ist seit über 70 Jahren ein Forschungsfeld, wobei sich die größten Leistungssprünge auf das letzte Jahrzehnt konzentrieren. Die jüngste Welle hat das Feld von einer akademischen Kuriosität zu einer alltäglichen Infrastruktur gemacht.

  • 1950 – Turing-Test vorgeschlagen: Alan Turing veröffentlicht „Computing Machinery and Intelligence“, wirft die Frage auf, ob Maschinen denken können, und schlägt einen Test für Maschinenintelligenz vor, der bis heute die Debatte prägt.
  • 1956 – AI erhält ihren Namen: John McCarthy prägt auf der Dartmouth-Konferenz den Begriff „Artificial Intelligence“ (Künstliche Intelligenz) und begründet damit offiziell dieses Fachgebiet.
  • 1960er–1970er Jahre – Früher Optimismus und AI-Winter: Forscher entwickeln erste regelbasierte Systeme und Programme für natürliche Sprache. Da die Fortschritte bei den schwierigen Problemen ins Stocken geraten, versiegen die Gelder. Der erste von zwei „AI-Wintern“ setzt ein.
  • 1997 – Deep Blue schlägt Kasparow: Der Schachcomputer von IBM besiegt den Weltmeister Garri Kasparow in einem Match über sechs Partien. Dies war das erste Mal, dass eine Maschine einen amtierenden Weltmeister im Schach besiegte – ein Meilenstein für die AI in der Öffentlichkeit.
  • 2012 – Durchbruch beim Deep Learning: Ein neuronales Netz namens AlexNet sorgt beim ImageNet-Wettbewerb für einen gewaltigen Sprung bei der Genauigkeit der Bilderkennung. Dies löst den modernen AI-Boom aus und überzeugt die Fachwelt davon, dass Deep Learning der Weg der Zukunft ist.
  • 2017 – Einführung von Transformern: Google-Forscher veröffentlichen „Attention Is All You Need“ und führen die Transformer-Architektur ein, die den Weg für die heutigen Large Language Models (LLMs) ebnet.
  • 2022 – ChatGPT geht an den Start: Generative AI erreicht den Mainstream, als OpenAI ChatGPT für die Öffentlichkeit freigibt. Die Anwendung erreicht in zwei Monaten 100 Millionen Nutzer – die bis dahin schnellste Verbreitung einer Verbrauchertechnologie überhaupt.
  • 2023–heute – Enterprise AI skaliert: Unternehmen gehen von Experimenten zu produktiver AI und AI-Agenten in allen Geschäftsbereichen über – vom Kundenservice über die Softwareentwicklung bis hin zum internen Betrieb.

Was die letzten drei Jahre besonders auszeichnet, ist das Tempo. Seit 2022 haben sich die AI-Fähigkeiten schneller weiterentwickelt, als die meisten Experten erwartet hatten, und die Zeitspanne zwischen einem Forschungsdurchbruch und einem fertigen Produkt hat sich von Jahren auf Monate verkürzt. Die Entwicklung des nächsten Jahrzehnts wird weniger von der reinen Leistungsfähigkeit der Modelle abhängen, sondern vielmehr davon, wie Unternehmen diese Fähigkeiten in zuverlässige, kontrollierte Systeme umsetzen.

Was sind die Einschränkungen und Risiken von AI?

AI ist leistungsstark, aber nicht perfekt. Die folgenden Risiken treten in der Produktion häufig auf und lassen sich im Allgemeinen in drei Kategorien einteilen: technische Einschränkungen, betriebliche Herausforderungen und breitere gesellschaftliche Auswirkungen.

Halluzinationen und ungenaue Ergebnisse

Generative AI kann überzeugend klingende Antworten liefern, die sachlich falsch sind. Der Branchenbegriff dafür lautet „Halluzination“. Ein Chatbot kann ein Zitat erfinden, eine Quelle falsch zitieren oder Fakten fabrizieren, die oberflächlich betrachtet plausibel erscheinen. Das liegt daran, dass Large Language Models eher die wahrscheinlichsten nächsten Wörter vorhersagen, als verifizierte Informationen abzurufen: Das Modell ist auf Sprachfluss optimiert, nicht auf Wahrheit.

In kritischen Bereichen wie dem Gesundheitswesen, der Rechtsberatung und bei Finanzentscheidungen sollten AI-Ergebnisse von einem Menschen überprüft werden, bevor entsprechende Maßnahmen ergriffen werden. Selbst in weniger kritischen Szenarien kombinieren Unternehmen generative Modelle zunehmend mit Retrieval-Augmented Generation-Systemen, um Ergebnisse auf vertrauenswürdigen Quelldokumenten zu basieren. Auch eine systematische Evaluierung hilft: Das Testen von Modellen anhand von Benchmark-Fragen vor der Bereitstellung deckt viele Halluzinationen frühzeitig auf, noch bevor sie die Benutzer erreichen.

Bias in Trainingsdaten

AI lernt aus Daten. Wenn die Daten menschliche Vorurteile widerspiegeln – wie historische Einstellungsmuster, die eine bestimmte Demografie bevorzugten, oder Kreditentscheidungen, die eine andere benachteiligten –, wird die AI diesen Bias reproduzieren und oft noch verstärken. Wie der Stanford Emerging Technology Review feststellt: „Ohne ausreichend qualitativ hochwertige Daten können AI-Modelle ungenaue oder verzerrte Ergebnisse liefern.“

Bias ist ein großes Problem bei Anwendungen in den Bereichen Personalwesen, Kreditvergabe und Strafjustiz, wo verzerrte Ergebnisse echten Schaden anrichten können. Die Eindämmung erfordert eine sorgfältige Kuratierung der Trainingsdaten, eine kontinuierliche Evaluierung anhand von Fairness-Metriken und die Disziplin, Modelle an Bevölkerungsgruppen zu testen, die beim Training möglicherweise unterrepräsentiert waren. Dies ist keine einmalige Angelegenheit. Modelle verändern sich (Model Drift), wenn sich die Welt, in der sie arbeiten, verändert. Daher muss das Fairness-Monitoring eine kontinuierliche betriebliche Praxis sein und nicht nur eine einmalige Überprüfung am Tag der Einführung.

Das „Blackbox“-Problem

Insbesondere beim Deep Learning ist es oft schwer zu sagen, warum eine AI eine bestimmte Entscheidung getroffen hat. Die Argumentation des Modells verteilt sich auf Millionen oder Milliarden von Parametern, von denen sich keiner direkt in eine für Menschen verständliche Erklärung übersetzen lässt. Das spielt vor allem in regulierten Branchen wie dem Bankenwesen, dem Gesundheitswesen und dem Versicherungswesen eine Rolle, wo eine Entscheidung gegenüber Kunden, Prüfern oder Gerichten erklärbar sein muss.

Als Reaktion darauf ist das Feld der erklärbaren AI (XAI) entstanden, das Tools entwickelt, die aufzeigen, welche Features das Ergebnis eines bestimmten Modells am meisten beeinflusst haben. Einige Branchen gehen noch weiter und verlangen für kritische Anwendungsfälle einfachere, „interpretierbare“ Modellarchitekturen. Dabei nehmen sie geringe Einbußen bei der reinen Genauigkeit in Kauf, um Entscheidungen zu erhalten, die nachvollziehbar und vertretbar sind.

Datenschutz- und Sicherheitsrisiken

AI-Systeme benötigen oft Zugriff auf große Datenmengen, was Fragen zur Erhebung, Speicherung und Nutzung dieser Daten aufwirft. Generative AI bringt eigene neue Risiken mit sich: Deepfakes, die echte Personen imitieren, AI-generierte Desinformation in großem Stil und Prompt-Injection-Angriffe, die Modelle dazu verleiten, Informationen preiszugeben, die sie nicht sollten, oder nicht autorisierte Aktionen auszuführen. Datenschutzkontrollen und Sicherheits-Guardrails sind Teil eines verantwortungsvollen AI-Designs und kein nachträglicher Gedanke.

Sorgen über den Abbau von Arbeitsplätzen

AI automatisiert Aufgaben in vielen Branchen, was berechtigte Fragen darüber aufwirft, wie sich Arbeitsplätze und Qualifikationen verändern werden. Das wahrscheinlichste Szenario ist ein Wandel, kein vollständiger Ersatz: AI neigt dazu, die Zusammensetzung der Aufgaben innerhalb eines Berufs zu verändern, anstatt die Rolle komplett zu ersetzen. Einige Rollen werden an Bedeutung verlieren, neue werden entstehen und viele bestehende Rollen werden neue Fähigkeiten erfordern – insbesondere die Fähigkeit, effektiv mit AI-Systemen zusammenzuarbeiten. Der Wandel ist real, das Tempo ist hoch und die Auswirkungen auf die Belegschaft verdienen ernsthafte Aufmerksamkeit von Führungskräften, Bildungseinrichtungen und der Politik.

Governance und Compliance

Unternehmen, die AI einsetzen, benötigen klare Leitplanken: Wer darf auf welche Modelle zugreifen, welche Daten nutzen diese Modelle, wie werden die Ergebnisse überwacht und wie kann der Zugriff entzogen werden, wenn etwas schiefgeht. Die Lehre aus dem letzten Jahrzehnt der Cloud-Sicherheit ist, dass von Anfang an integrierte Kontrollen besser funktionieren als nachträglich hinzugefügte.

Das Gleiche gilt für AI. Auch die Regulierung zieht nach: Der EU AI Act, US-Gesetze auf Bundesstaatsebene und branchenspezifische Regeln im Finanz- und Gesundheitswesen erlegen AI-Bereitstellungen neue Verpflichtungen auf. Für Entwickler bedeutet dies in der Praxis, dass Governance kein nachträglicher Gedanke mehr sein darf. Sie muss von der Datenebene an fest integriert sein. Einen genaueren Blick auf die Disziplin dahinter bietet unsere AI-Governance-Übersicht.

Warum ist AI für Unternehmen wichtig?

AI verändert die Art und Weise, wie Unternehmen agieren, im Wettbewerb bestehen und Kunden bedienen. Ihr Wert entsteht dadurch, dass vertrauenswürdige, kontrollierte Daten auf reale geschäftliche Probleme angewendet werden, und nicht durch isolierte Experimente.

Unternehmen nutzen AI für Folgendes:

  • Schnellere, fundiertere Entscheidungen treffen
  • Sich wiederholende Aufgaben automatisieren
  • Kundenerlebnisse personalisieren
  • Agents bereitstellen, die mehrstufige Aufgaben erledigen
  • Prognosen und Kundenservice verbessern

Um diesen Wert zu realisieren, ist eine einheitliche Plattform erforderlich, auf der Daten vorbereitet, Modelle trainiert, Agents bereitgestellt und der gesamte Stack durchgängig kontrolliert wird.

Auch der Wettbewerbsdruck steigt. Da AI in vielen Branchen zum Standard wird, gehen führende Unternehmen wie folgt vor:

  • Mit einem konkreten geschäftlichen Problem beginnen
  • Datenqualität vor Modellkomplexität priorisieren
  • Leistung anhand realer Ergebnisse bewerten
  • Governance von Anfang an in die Plattform integrieren

Wie Databricks AI unterstützt

Die Entwicklung von produktionsbereiter AI ist schwer: Daten liegen an vielen verschiedenen Orten, Modelle müssen trainiert und evaluiert werden, und die Governance muss sich über die gesamte Pipeline erstrecken. Die Databricks-Plattform führt Daten und AI an einem Ort zusammen, sodass Teams Daten speichern und vorbereiten, Modelle trainiert und feingetunt werden können, AI-Agents bereitgestellt und alles durchgängig verwaltet werden kann. Dazu gehören Agent Bricks zur Erstellung von Agents auf der Basis von Unternehmensdaten sowie Unity Catalog für die Governance von Daten- und AI-Assets. Die Plattform lässt sich mit führenden Modellen von OpenAI, Anthropic, Google und Meta sowie mit Open-Source-Alternativen verbinden, sodass Sie für jede Aufgabe das richtige Modell auswählen können, ohne Ihren Stack neu aufbauen zu müssen.

Mehr als 20.000 Unternehmen weltweit nutzen Databricks, um ihre AI-Projekte zu entwickeln, zu skalieren und zu verwalten. Der Vorteil einer einheitlichen Plattform liegt in den nahtlosen Übergängen: Teams wechseln von den Daten über das Modell bis hin zur Bereitstellung, ohne Daten zwischen Systemen kopieren zu müssen oder die Lineage zu verlieren. Das macht die Arbeit mit AI schneller, kostengünstiger und einfacher zu prüfen. Weitere Informationen finden Sie im Verzeichnis der Databricks-Kunden.

Häufig gestellte Fragen

Was ist ein Beispiel für künstliche Intelligenz?

ChatGPT, Sprachassistenten wie Siri und Alexa, die Empfehlungs-Engine von Netflix, die Betrugserkennung bei Kreditkartentransaktionen und selbstfahrende Funktionen in Autos sind Beispiele für AI, die heute im Einsatz ist. Die meisten davon fallen in die Kategorie „begrenztes Gedächtnis“: Sie lernen aus historischen Daten, um Vorhersagen zu treffen oder Antworten zu generieren, behalten aber kein dauerhaftes Langzeitgedächtnis wie Menschen.

Welches sind die 4 Arten von AI?

Reaktive Maschinen, begrenztes Gedächtnis, Theorie des Geistes (Theory of Mind) und selbstbewusste AI. Die ersten beiden existieren bereits heute: Von Spam-Filtern bis hin zu ChatGPT gehört alles in eine dieser Kategorien. Die beiden letztgenannten sind nach wie vor theoretisch, und es gibt noch keinen klaren technischen Weg dorthin.

Ist AI dasselbe wie Machine Learning?

Nein. AI ist das breitere Feld der Entwicklung von Maschinen, die intelligente Aufgaben ausführen. Machine Learning ist ein Teilbereich der AI: Systeme, die aus Daten lernen, anstatt explizit programmiert zu werden. Jedes Machine Learning ist AI, aber nicht jede AI ist Machine Learning.

Was ist der Unterschied zwischen AI und generativer AI?

AI ist der Oberbegriff für jedes System, das Aufgaben ausführt, die mit menschlicher Intelligenz verbunden sind. Generative AI ist eine spezielle Art von AI, die auf Deep Learning basiert und neue Inhalte (Text, Bilder, Audio, Video oder Code) erstellt, anstatt vorhandene Eingaben zu klassifizieren oder vorherzusagen. ChatGPT und Bildgeneratoren sind alltägliche Beispiele.

Was sind die größten Risiken von AI?

Die häufigsten Risiken sind Halluzinationen (überzeugend vorgetragene, aber falsche Ergebnisse), aus Trainingsdaten übernommener Bias, das „Blackbox“-Problem (Entscheidungen, die sich nicht leicht erklären lassen), Datenschutz- und Sicherheitslücken, der Abbau von Arbeitsplätzen und eine unzureichende Governance. Die Eindämmung erfolgt durch Verifizierung, Aufsicht, sorgfältige Datenkuratierung und integrierte Guardrails.

Erste Schritte mit AI

AI ist kein Experiment mehr. Sie ist eine grundlegende Technologie, die alltägliche Produkte antreibt und die Arbeitsweise von Unternehmen verändert – und das Tempo der Einführung beschleunigt sich. Das Verständnis der Grundlagen – was sie ist, wie sie funktioniert, wo sie passt und wo ihre Grenzen liegen – ist der Ausgangspunkt für eine erfolgreiche Nutzung. Von dort aus geht es darum, sie auf reale Probleme und vertrauenswürdige Daten anzuwenden, mit der nötigen Governance, um verantwortungsvoll zu skalieren.

Erfahren Sie, wie Databricks Unternehmen dabei unterstützt, KI auf ihren eigenen Daten zu entwickeln und zu skalieren — entdecken Sie die Databricks Platform.

(Dieser Blogbeitrag wurde mit KI-gestützten Tools übersetzt.) Originalbeitrag

Erhalten Sie die neuesten Beiträge in Ihrem Posteingang

Abonnieren Sie unseren Blog und erhalten Sie die neuesten Beiträge direkt in Ihren Posteingang.