Trends der Spitzenforschung
Das Tempo des Fortschritts im KI-Bereich ist oft erstaunlich. Eine neue Idee, die heute in einer wissenschaftlichen Arbeit zu sehen ist, kann sechs Monate später zu einer Produktfunktion werden, die alle nutzen.
Scaling Law, MoE-Mixture-of-Experts, Langkontext-Techniken, Compute-Skalierung zur Inferenzzeit, multimodale Fusion, AI-Agent, Few-Shot-Learning, AI for Science—diese im Labor erforschten Richtungen werden die Gestalt von KI-Produkten für das nächste Jahrzehnt definieren.
Dieses Modul soll nicht jedes technische Detail erklären, sondern Ihnen helfen, einen panoramischen Überblick über die Spitzenforschung zu gewinnen: zu wissen, welche wichtigen Richtungen es gibt, welche Probleme jede Richtung löst, wie weit sie fortgeschritten ist und wohin sie sich in Zukunft entwickeln könnte.
Der Wert des Verständnisses von Spitzenforschung liegt nicht darin, Trends zu folgen, sondern darin,den Faden der technologischen Entwicklung zu erkennen und die unveränderlichen Gesetze inmitten des Wandels zu finden.。
Scaling Law (Skalierungsgesetz)
Scaling Law war in den letzten Jahren das zentrale Leitprinzip hinter dem Erfolg großer Modelle—größere Modelle, mehr Daten und stärkere Rechenleistung bringen bessere Leistung.
Was ist Scaling Law
Einfach gesagt:Innerhalb eines bestimmten Bereichs verbessert sich die Modellleistung vorhersehbar, wenn Rechenleistung, Daten und Parameter zunehmen.。
Das ist wie Landwirtschaft: In einem vernünftigen Rahmen gilt: je mehr Dünger, Wasser und fruchtbarer Boden, desto besser die Ernte.
Scaling Law wurde erstmals von OpenAI im Jahr 2020 in dem Paper "Scaling Laws for Neural Language Models" systematisch dargelegt.
Sie fanden heraus, dass wenn man Modellparameter, Daten und Rechenleistung um den Faktor N skaliert, der Verlust des Modells gemäß log(N) sinkt—das heißt, obwohl der Grenzertrag abnimmt, wird die Leistung weiter steigen, solange man weiter investiert.
Chinchilla-Gesetz für optimales Training
Im Jahr 2022 brachte DeepMinds Paper "Training Compute-Optimal Large Language Models" (das Chinchilla-Paper) eine wichtige Korrektur.
Der vorherrschende Ansatz war zuvor, das Modell so groß wie möglich zu machen und es dann mit relativ wenigen Daten zu trainieren.
Das Chinchilla-Papier wies darauf hin:Frühere Modelle waren zu groß und hatten zu wenig Daten.。
Sie schlugen vor, dass bei einem bestimmten Rechenbudget Modellparameter und Trainingsdaten in einem bestimmten Verhältnis gemeinsam hochskaliert werden sollten.
Konkret: Wenn sich die Rechenleistung verdoppelt, sollten die Modellparameter um etwa das 1,4-Fache und die Trainingsdaten ebenfalls um etwa das 1,4-Fache hochskaliert werden.
| Modell | Parameters | Trainingsdatengröße | Veröffentlichungsdatum | Eigenschaften |
|---|---|---|---|---|
| GPT-3 | 175B | 300B Tokens | 2020 | Großes Modell, relativ wenige Daten |
| Chinchilla | 70B | 1.4T Tokens | 2022 | Etwas kleineres Modell, viel mehr Daten |
| LLaMA 2 | 70B | 2T Tokens | 2023 | Dem Chinchilla-Ansatz folgend |
Die Auswirkungen von Chinchilla waren weitreichend: Nachfolgende Mainstream-Modelle, von LLaMA bis GPT-4, legten mehr Wert auf das Datenverhältnis, statt blind extrem große Parameterzahlen anzustreben.
Grenzen und Kontroversen des Scaling Law
Scaling Law ist kein Allheilmittel. Seine Grenzen zeigen sich in mehreren Aspekten:
Erstens:abnehmende Grenzerträge—um die Leistung zu verdoppeln, könnte ein zehnfacher oder sogar hundertfacher Rechenaufwand nötig sein.
Zweitens:die Unvorhersehbarkeit emergenter Fähigkeiten—Manche Fähigkeiten (wie komplexes Schlussfolgern) treten bei einem kleinen Modell überhaupt nicht auf, sondern entstehen plötzlich nach Erreichen einer bestimmten Größenordnung. Niemand kann jedoch genau vorhersagen, wann die nächste Fähigkeit auftritt oder was sie sein wird.
Drittens:Datenengpass—Die Gesamtmenge hochwertiger Textdaten ist begrenzt. Beim derzeitigen Verbrauch könnten wir bald die Datengrenze erreichen.
Kernthese des Scaling Law:Skalierung ist nicht alles, aber ohne Skalierung ist nichts möglich. Heutige Modelle profitieren noch von größerer Skalierung, aber Forschende erkunden auch neue Wege, die über bloßes Hochskalieren hinausgehen.
Mixture of Experts (MoE)
Das Mixture of Experts (MoE) ist ein Architekturdesign, das das Modell größer macht, ohne die Inferenzkosten wesentlich zu erhöhen.
Dichtes Modell vs. Sparse-Modell
Traditionelle große Modelle sind "dense" — jedes Mal, wenn ein Token eingegeben wird, werden alle Parameter des Modells verwendet.
MoE ist "sparse" — jedes Token verwendet nur einen kleinen Teil der Parameter des Modells (d. h. einige wenige "Experten"), während die übrigen Parameter ruhen.
Das ist wie ein Gang ins Krankenhaus:
Dichtes Modell: Wenn Sie einen Arzt aufsuchen, kommen Ärzte aller Abteilungen zur Konsultation — umfassend, aber zu teuer.
MoE-Modell: Wenn Sie zum Arzt gehen, weist Sie die Anmeldung an ein paar relevante Fachabteilungen zu (z. B. Innere Medizin + Kardiologie), und nur Ärzte aus diesen Fachabteilungen untersuchen Sie – das stellt Professionalität sicher und kontrolliert gleichzeitig die Kosten.
| Eigenschaft | Dichtes Modell | MoE-Sparse-Modell |
|---|---|---|
| Gesamtparameter | Normalerweise kleiner | Kann sehr groß sein |
| Verwendete Parameter pro Token | Alle Parameter | Ein kleiner Teil der Experten |
| Inferenzkosten | Proportional zur Parameteranzahl | Relativ kontrollierbar |
| Trainingsschwierigkeit | Relativ einfach | Erfordert das Lösen von Lastenausgleichs- und anderen Problemen |
| Repräsentative Modelle | GPT-3, LLaMA | Switch Transformer, Mixtral, GPT-4 |
Gating-Mechanismus (Gating)
Das Herzstück von MoE ist dasGating-Netzwerk– es entscheidet, an welche Experten jedes Token zur Verarbeitung gesendet werden soll.
Die Eingabe für das Gating-Netzwerk ist das Merkmal des aktuellen Tokens, und die Ausgabe ist das Gewicht jedes Experten.
Der übliche Ansatz ist: Wähle die Top-K-Experten mit den höchsten Gewichten aus (z. B. K=2 oder K=8), sende das Token nur an diese Experten und bilde dann die gewichtete Summe ihrer Ausgaben.
Das Gating-Netzwerk selbst ist lernfähig – während des Trainings lernt es schrittweise, „welche Art von Inhalt für welche Experten geeignet ist“.
Experten-Routing-Algorithmus
MoE hat eine einzigartige Herausforderung:Lastenausgleich。
Wenn das Gating-Netzwerk immer die meisten Token an einige wenige Experten zuweist, erhalten die anderen Experten kein ausreichendes Training und Modellkapazität wird verschwendet.
Forscher haben verschiedene Routing-Algorithmen vorgeschlagen, um dieses Problem zu lösen:
Ein Ansatz besteht darin, der Verlustfunktion des Gating-Netzwerks einen „Lastenausgleichsverlust“ hinzuzufügen, um zu fördern, dass jeder Experte gleichmäßig genutzt wird.
Ein anderer Ansatz besteht darin, komplexere Routing-Strategien zu übernehmen, wie zum Beispiel „Kapazitätsgrenzen“ – jeder Experte hat einen maximalen Durchsatz, und wenn er voll ist, werden Token an den nächstgeeigneten Experten weitergeleitet.
Repräsentatives Modell: Mixtral
Ende 2023 brachte Mistral AI Mixtral 8x7B heraus, womit MoE endgültig massentauglich wurde.
Mixtral hat 8 Experten mit jeweils 7B Parametern und wählt für jedes Token die Top-2-Experten aus, sodass jedes Token tatsächlich etwa 14B Parameter verwendet, die Gesamtzahl der Parameter jedoch 47B beträgt.
Das Ergebnis: Die Inferenzgeschwindigkeit und die Kosten von Mixtral sind vergleichbar mit denen eines dichten 14B-Modells, aber seine Leistung nähert sich der eines 70B-Modells an.
Diese Eigenschaft, „mit kleinem Budget Großes zu leisten“, hat MoE in den Fokus der Aufmerksamkeit der Branche gerückt.
Herausforderungen bei Training und Inferenz
Obwohl MoE attraktiv ist, bringt es auch zusätzliche Komplexität mit sich:
Training: Es erfordert die Handhabung von Problemen wie Expertenlastenausgleich, Kommunikations-Overhead (beim verteilten Training über mehrere Maschinen hinweg) und Expertenausfall (Dropout).
Inferenz: Obwohl pro Token nur wenige Experten aktiviert werden, muss dennoch das gesamte Modell in den GPU-Speicher geladen werden – dies stellt höhere Anforderungen an die Speicherkapazität.
Forscher nutzen jedoch Techniken wie Modellparallelität und dynamisches Auslagern von Experten (Offloading), um diese Probleme zu lindern.
Beispiele
# Eine einfache konzeptionelle Demonstration des MoE-Gating-Mechanismus
# Zeigt, wie geeignete Experten basierend auf der Eingabe ausgewählt werden
# ============================================
import random
from typing import List, Tuple
class Expert:
""Ein einfaches Expertenmodell (konzeptionelle Demonstration)"""
def __init__(self, expert_id: int, specialty: str):
self.expert_id = expert_id
self.specialty = specialty # Fachgebiete (z. B. „math“, „code“, „literature“)
# Simulierte Expertenparameter (in der Praxis sind dies Gewichte neuronaler Netze)
self.weights = [random.random() for _ in range(10)]
def forward(self, x: List[float]) -> float:
""Experte verarbeitet Eingabe und erzeugt Ausgabe"""
# Einfache Simulation einer gewichteten Summe (in der Praxis ist dies eine Berechnung eines neuronalen Netzwerks)
return sum(x[i] * self.weights[i % 10] for i in range(len(x)))
class MoEGate:
""MoE-Gating-Netzwerk: Entscheidet, welchen Experten jede Eingabe zugewiesen wird"""
def __init__(self, num_experts: int, top_k: int = 2):
self.num_experts = num_experts
self.top_k = top_k
# Parameter des Gating-Netzwerks selbst
self.gate_weights = [[random.random() for _ in range(10)]
for _ in range(num_experts)]
def compute_scores(self, x: List[float]) -> List[float]:
""Berechne die Punktzahl jedes Experten für die aktuelle Eingabe"""
scores = []
for expert_weights in self.gate_weights:
score = sum(x[i] * expert_weights[i] for i in range(len(x)))
scores.append(score)
return scores
def select_experts(self, x: List[float]) -> List[Tuple[int, float]]:
""Wähle Top-K-Experten aus und gib eine Liste von (Expertenindex, Gewicht) zurück"""
scores = self.compute_scores(x)
# Nach Punktzahl in absteigender Reihenfolge sortieren
scored_experts = [(i, score) for i, score in enumerate(scores)]
scored_experts.sort(key=lambda x: x[1], reverse=True)
# Top-K auswählen
top_experts = scored_experts[:self.top_k]
# Softmax-Normalisierung auf die Top-K-Gewichte anwenden (vereinfachte Version)
total = max(0.0001, sum(score for _, score in top_experts))
return [(idx, score / total) for idx, score in top_experts]
class SimpleMoE:
""Ein vereinfachtes Mixture-of-Experts-Modell"""
def __init__(self, num_experts: int = 8, top_k: int = 2):
# Mehrere Experten erstellen
specialties = ["Mathematics", "Code", "Literature", "History",
"Science", "Art", "Sports", "Philosophy"]
self.experts = [Expert(i, specialties[i % len(specialties)])
for i in range(num_experts)]
# Gating-Netzwerk erstellen
self.gate = MoEGate(num_experts, top_k)
def forward(self, x: List[float]) -> float:
"""MoE-Vorwärtspropagation"""
# 1. Gating-Netzwerk wählt Experten aus
selected_experts = self.gate.select_experts(x)
print(f"Eingabemerkmale: {[f'{v:.2f}' for v in x[:5]]}...")
print(f"Ausgewählte Experten:")
for idx, weight in selected_experts:
print(f" - Experte {idx} ({self.experts[idx].specialty}), Gewicht: {weight:.3f}")
# 2. Ausgewählte Experten verarbeiten die Eingabe
expert_outputs = []
for idx, weight in selected_experts:
output = self.experts[idx].forward(x)
expert_outputs.append((output, weight))
# 3. Gewichtete Zusammenführung der Expertenausgaben
final_output = sum(output * weight for output, weight in expert_outputs)
return final_output
# ============================================
# MoE-Workflow demonstrieren
# ============================================
# Ein MoE-Modell mit 8 Experten erstellen, Top-2 auswählen
moe = SimpleMoE(num_experts=8, top_k=2)
# Mehrere verschiedene Eingabetypen simulieren (durch Zufallsvektoren dargestellt)
print("=" * 50)
print("BEISPIEL MoE-Konzept-Demo")
print("=" * 50)
# Eingabe 1: Eingabe vom Typ "Mathematik" simulieren
input1 = [0.9, 0.8, 0.1, 0.1, 0.2, 0.1, 0.1, 0.1, 0.1, 0.1]
output1 = moe.forward(input1)
print(f"MoE-Ausgabe: {output1:.4f}")
print()
# Eingabe 2: Eingabe vom Typ "Code" simulieren
input2 = [0.1, 0.2, 0.9, 0.8, 0.1, 0.1, 0.1, 0.1, 0.1, 0.1]
output2 = moe.forward(input2)
print(f"MoE-Ausgabe: {output2:.4f}")
print()
# Eingabe 3: Eingabe vom Typ "Literatur" simulieren
input3 = [0.1, 0.1, 0.1, 0.1, 0.9, 0.8, 0.1, 0.1, 0.1, 0.1]
output3 = moe.forward(input3)
print(f"MoE-Ausgabe: {output3:.4f}")
print()
print("=" * 50)
print("Hinweis: In echten MoE lernt das Gating-Netzwerk allmählich durch Training")
print(" um zu lernen, welche Arten von Eingaben für welche Experten geeignet sind.")
print("=" * 50)
Die zentrale Erkenntnis von MoE:Nicht alle Parameter müssen gleichzeitig arbeiten. Lass jeden Experten sich auf das konzentrieren, worin er gut ist, und nutze das Gating-Netzwerk zur Steuerung, wodurch die Gesamtkapazität erweitert werden kann, während die Inferenzkosten kontrolliert werden.
Langkontext-Technologie
Frühe GPT-3-Modelle hatten ein Kontextfenster von nur 2K Token (etwa 1,500 chinesische Schriftzeichen); heutige Mainstream-Modelle haben 8K, 32K, 128K oder sogar 1M Token erreicht.
Langkontext bedeutet nicht einfach nur "das Fenster zu strecken" — es erfordert die Lösung einer Reihe technischer Herausforderungen.
Kernherausforderungen von Langkontext
Das direkteste Problem istdie Rechenkomplexität。
Der Self-Attention-Mechanismus von Transformer hat O(n²)-Komplexität — wenn sich die Kontextlänge verdoppelt, vervierfacht sich die Berechnung.
Die Erweiterung des Fensters von 2K auf 128K erhöht die Berechnung um das 4096-Fache — das ist rechnerisch nicht machbar.
Die zweite Herausforderung istdie Positionskodierung。
Die sinusförmige Positionskodierung oder lernbare Positionskodierung, die der ursprüngliche Transformer verwendet, hat eine schlechte Extrapolationsfähigkeit über die Trainingslänge hinaus — ähnlich wie eine Person, die nur auf einer 100-Meter-Bahn trainiert hat und plötzlich 1000 Meter laufen soll; sie würde sich sehr unwohl fühlen.
Die dritte Herausforderung istder Memory-Effekt。
Selbst wenn das Modell technisch in der Lage ist, lange Texte zu verarbeiten, kann es "lesen und vergessen" — die Inhalte in der Mitte lassen sich nur schwer effektiv nutzen.
RoPE-Extrapolationsmethoden (YaRN / LongRoPE)
Rotary Position Embedding (RoPE) ist derzeit eines der beliebtesten Positionskodierungsschemata.
Die Kernidee von RoPE ist:Positionsinformationen als Rotationswinkel zu kodieren。
Der Vorteil dabei ist: Relative Positionsbeziehungen werden auf natürliche Weise kodiert — wenn zwei Tokens k Positionen voneinander entfernt sind, unterscheiden sich ihre Rotationswinkel um k Einheiten.
Allerdings verschlechtert sich die Extrapolationsleistung des ursprünglichen RoPE jenseits der Trainingslänge weiterhin.
Forscher haben Verbesserungsmethoden vorgeschlagen:
YaRN(Yet Another RoPE Scaling) — durch die feine Anpassung des Skalierungsfaktors von RoPE kann das Modell auch jenseits der Trainingslänge eine gute Leistung beibehalten.
LongRoPE—Eine von Meta vorgeschlagene Methode, die das Kontextfenster des LLaMA 2-Modells durch progressive Erweiterung und Fine-Tuning von 4K auf 128K oder sogar 256K erweitert.
Die gemeinsame Idee hinter diesen Techniken ist:Ohne das gesamte Modell neu zu trainieren, kann allein die Anpassung einiger Parameter der Positionskodierungeine deutliche Erweiterung des Kontextfensters bewirken.
Sparse Attention (Sliding Window / Longformer)
Ein weiterer Ansatz zur Lösung der O(n²)-Komplexität ist:nicht jedes Token auf alle anderen Tokens achten zu lassen。
Sliding Window Attention—Jedes Token achtet nur auf Tokens innerhalb eines festen Fensters vor und nach ihm (z. B. 4096 Tokens davor und danach).
Das ist wie beim Lesen eines Romans: Man erinnert sich nur an den Inhalt der letzten paar Seiten, anstatt bei jedem gelesenen Wort das gesamte Buch abzurufen.
Longformer—Durch die Kombination von Sliding Window und globaler Attention können bestimmte spezielle Tokens (wie <[BOS_never_used_51bce0c785ca2f68081bfa7d91973934]> und Zusammenfassungsmarker) auf alle Tokens achten, während andere Tokens nur auf lokale Informationen achten.
Dadurch können lange Texte verarbeitet werden, während sichergestellt wird, dass globale Informationen nicht verloren gehen.
Zustandsraummodell: Mamba
Ende 2023 brachte das Aufkommen von Mamba einen völlig neuen Ansatz.
Mamba gehört zur KategorieZustandsraummodell (SSM), seine Komplexität ist O(n) — wenn sich die Kontextlänge verdoppelt, verdoppelt sich auch die Berechnung.
Mambas Kerninnovation istSelective State Space— es ermöglicht dem Modell, auf Basis der Eingabe dynamisch zu entscheiden, welche Informationen es sich merkt und welche es ignoriert.
Das ist wie beim Notizenmachen: Man schreibt nicht jedes Wort mit, sondern notiert selektiv die Kernpunkte.
Mambas Vorteile sind:
1. Es kann theoretisch unendlich lange Kontexte verarbeiten
2. Schnelle Inferenzgeschwindigkeit und geringer Speicherverbrauch
3. Hervorragende Leistung bei Aufgaben mit langen Sequenzen
Allerdings hat Mamba auch Einschränkungen: Bei Kurztext-Aufgaben ist es ausgereiften Transformern noch leicht unterlegen, und sein Ökosystem ist relativ unterentwickelt.
| Technische Lösungen | Komplexität | Repräsentative Modelle | Anwendbare Szenarien |
|---|---|---|---|
| Full-Attention-Transformer | O(n²) | GPT-3, LLaMA | Kurzer bis mittellanger Text |
| RoPE-Extrapolation | O(n²) | Claude、GPT-4 | Mittellanger Text |
| Sparse Attention | O(n) oder O(n log n) | Longformer、Mistral | Langtext auf Dokumentenebene |
| State-Space-Modell | O(n) | Mamba、Hyena | Ultralange Sequenzen (Code, Genome usw.) |
Die Entwicklungsrichtung der Long-Context-Technologie:Die beste Balance zwischen Leistung, Geschwindigkeit und Speicher finden. Unterschiedliche Szenarien erfordern möglicherweise unterschiedliche technische Lösungen.
Inference-Time Compute Scaling
Das Training und die Inferenz traditioneller großer Modelle sind voneinander getrennt – das Training verbraucht viel Rechenleistung, während die Inferenz eine feste Vorwärtsberechnung verwendet.
Die Idee des Inference-Time Compute Scaling ist:Dem Modell erlauben, während der Inferenz mehr Schritte zu „denken“, wobei zusätzliche Rechenleistung gegen bessere Ergebnisse eingetauscht wird.
Der Ansatz von o1 / DeepSeek-R1
Im Jahr 2024 stellten OpenAI mit o1 und DeepSeek mit DeepSeek-R1 einen wichtigen Durchbruch in dieser Richtung dar.
Der Kern dieser Modelle ist:Das Modell zuerst eine „Reasoning Chain of Thought“ ausführen lassen, bevor die endgültige Antwort gegeben wird。
Konkret:
1. Nach Erhalt einer Frage antwortet das Modell nicht direkt, sondern generiert zunächst eine Reihe von „Gedankenprozessen“ (für den Benutzer sichtbar oder verborgen)
2. Während des Denkprozesses kann das Modell verschiedene Ansätze ausprobieren, eigene Fehler korrigieren und komplexe Probleme zerlegen
3. Nach ausreichendem Nachdenken wird dann die endgültige Antwort ausgegeben
Das ist wie beim Lösen einer Matheaufgabe: Man schreibt die Antwort nicht direkt auf, sondern leitet sie zunächst Schritt für Schritt auf Schmierpapier her und organisiert die Antwort, nachdem man bestätigt hat, dass sie korrekt ist.
Slow Thinking vs. Fast Thinking
Diese Richtung knüpft an die „Zwei-Systeme-Theorie“ des Psychologen Kahneman an:
System 1 (schnelles Denken)– Intuitiv, schnell und mühelos. Es entspricht einem einzelnen Vorwärtsdurchlauf in traditionellen Modellen.
System 2 (langsames Denken)– Analytisch, langsam und anstrengend. Es entspricht dem mehrstufigen Denken während der Inferenz.
Bisherige große Modelle waren hauptsächlich „System 1“, während Modelle wie o1 begonnen haben, „System 2“-Fähigkeiten einzuführen.
Es ist wichtig zu beachten:Langsames Denken erfordert mehr Zeit und Kosten– Eine Anfrage, die 10 Sekunden lang nachdenkt, kann das Zehnfache einer sofortigen Antwort kosten.
Best-of-N Sampling
Eine andere, einfachere Methode zur Skalierung der Inferenzzeit ist Best-of-N (auch Self-Consistency genannt).
Der Ansatz ist unkompliziert:
1. Das Modell N verschiedene Antworten auf dieselbe Frage generieren lassen
2. Eine Methode verwenden, um die beste auszuwählen (z. B. Mehrheitsentscheidung, Selbsteinschätzung des Modells, externe Validierung)
Das ist wie das Beantworten einer Multiple-Choice-Frage in einem Test: Man rät nicht nur einmal, sondern probiert mehrere Lösungen aus und wählt dann die konsistenteste Antwort.
Der Vorteil von Best-of-N liegt darin, dass es einfach, allgemein und fast ohne zusätzliches Training anwendbar ist – der Nachteil sind jedoch die hohen Kosten (da N-mal generiert werden muss).
Monte Carlo Tree Search in LLM
Eine weitere aktive Richtung besteht darin, die aus dem Reinforcement Learning bekannteMonte Carlo Tree Search (MCTS)in große Modelle zu integrieren.
AlphaGo nutzte MCTS, um eine übermenschliche Leistung zu erzielen.
Die Idee von MCTS ist:
1. Das Problem als „Suchbaum“ betrachten – jeder Knoten ist ein Denkeinsatz, jede Kante ist ein Denkschritt.
2. Verschiedene Denkpfade durch mehrere Simulationen erkunden.
3. Den vielversprechendsten Pfad basierend auf den Erkundungsergebnissen auswählen.
Die Kombination von MCTS mit LLMs ist eine sehr vielversprechende Richtung – sie kann sowohl das reichhaltige Wissen von LLMs nutzen als auch die Planungsfähigkeiten von MCTS einbringen.
| Methode | Kernidee | Vorteile | Nachteile |
|---|---|---|---|
| Gedankenkette (Chain of Thought, CoT) | Das Modell Schritt für Schritt denken lassen | Einfach und effektiv | Erhöht den Token-Verbrauch |
| o1 / R1-Stil | Tiefe Chain of Thought + Reinforcement Learning | Starke Argumentationsfähigkeit | Komplexes Training |
| Best-of-N | Aus vielen eine auswählen | Einfach und allgemein | Hohe Kosten |
| MCTS + LLM | Suche nach dem optimalen Denkpfad | Starke Planungsfähigkeit | Komplexe Implementierung |
Der Kernkompromiss des Inference-Time Compute Scaling:Wie viel Zeit und Kosten sind Sie bereit aufzuwenden, um bessere Antworten zu erhalten?Unterschiedliche Szenarien (zwangloser Chat vs. mathematischer Beweis) erfordern möglicherweise unterschiedliche Einstellungen.
Neueste Fortschritte bei multimodalen großen Modellen
Von GPT-4V über Gemini bis hin zu GPT-4o entwickeln sich die multimodalen Fähigkeiten rasant weiter – aktuelle Modelle können nicht nur Text lesen, sondern auch Bilder sehen, Videos verstehen, Audio hören und sogar multimediale Inhalte generieren.
GPT-4o / Gemini 1.5 Pro
Die neue Generation multimodaler Modelle im Jahr 2024 weist mehrere nennenswerte Merkmale auf:
Flüssigere Interaktion– GPT-4o unterstützt Sprachkonversationen, kann Bilder und Videos in Echtzeit verstehen, und das Interaktionserlebnis kommt dem einer echten Person näher.
Stärkeres Videoverständnis– Gemini 1.5 Pro kann bis zu 1 Stunde lange Videos verarbeiten und Fragen zum Videoinhalt präzise beantworten.
Native multimodale Generierung– Modelle „schauen nicht mehr zuerst und antworten dann“, sondern können Inhalte in mehreren Moden gleichzeitig verarbeiten und generieren.
Die Fähigkeiten dieser Modelle sind oft erstaunlich: Man gibt ihnen eine handgezeichnete Skizze und sie können helfen, Code zu schreiben, um diese umzusetzen; man gibt ihnen ein Foto einer Physikaufgabe und sie können diese Schritt für Schritt erklären; man gibt ihnen ein Video und sie können Emotionen von Charakteren und die Handlungsentwicklung analysieren.
Natives multimodales Training
Frühere multimodale Modelle wurden typischerweise „zusammengestückelt“ – ein Sprachmodell wurde vortrainiert, ein Vision-Encoder trainiert und schließlich wurden sie kombiniert.
Die neue Generation von Modellen bewegt sich hin zunativem multimodalem Training– der gleichzeitigen Verarbeitung von Text, Bildern, Audio und anderen Modalitäten von Beginn des Trainings an.
Dies bringt mehrere Vorteile mit sich:
1. Engere kreuzmodale Assoziationen – das Modell kann wirklich verstehen, „dieses Wort entspricht diesem Bereich im Bild“
2. Natürlichere Interaktion über mehrere Runden hinweg – Text und Bilder können abwechselnd präsentiert werden, um eine kohärente Konversation zu bilden
3. Entstehende neue Fähigkeiten – wie „eine Geschichte aus einem Bild erzählen“ oder „Objekte anhand von Geräuschen identifizieren“
Durchbrüche im Videoverständnis
Das Videoverständnis ist eine Richtung, die sich im vergangenen Jahr rasant weiterentwickelt hat.
Frühere Ansätze unterteilten Videos in unabhängige Frames und kodierten jeden Frame separat – dadurch geht die zeitliche Kontinuität verloren.
Neue Ideen umfassen:
Temporale Aufmerksamkeit– ermöglicht es dem Modell, sich nicht nur auf räumliche Inhalte zu konzentrieren, sondern auch Veränderungen im Laufe der Zeit zu verfolgen.
Uniforme Abtastung– gleichförmiges Abtasten von Keyframes aus langen Videos, um den gesamten Verlauf abzudecken und gleichzeitig den Rechenaufwand zu kontrollieren.
Video-Tokenisierung– Video als eine Art „Sprache“ behandeln und auf ähnliche Weise wie Text verarbeiten.
Aktuelle Modelle können bereits: komplexe Video-Tutorials verstehen, Schlüsselmomente in Sportübertragungen analysieren und sogar operative Fähigkeiten aus Videos lernen.
| Modell | Fähigkeitsfokus | Veröffentlichungszeitpunkt |
|---|---|---|
| GPT-4V | Bildverständnis | 2023 |
| Gemini 1.0 | Nativ multimodal | 2023 |
| Claude 3 | Visuelles Schließen | 2024 |
| Gemini 1.5 Pro | Verständnis langer Videos | 2024 |
| GPT-4o | Multimodale Interaktion in Echtzeit | 2024 |
Zukünftige Richtungen der Multimodalität:Von „Sehen und Hören“ zu „wahrem Verständnis“. Die Herausforderungen der nächsten Stufe sind physikalisches Schließen, kausales Verständnis und abstraktes Denken im Rahmen der Multimodalität.
Forschungsfronten für KI-Agenten
Das Ziel eines KI-Agenten (intelligenten Agenten) ist es, KI in die Lage zu versetzen, wie Menschen „Dinge zu tun“ – Ziele zu haben, zu planen, auszuführen und zu reflektieren.
Weltmodell
Das Weltmodell ist eine Kernkomponente des Agenten – es ist das „mentale Modell“ des Agenten von der Welt.
Einfach ausgedrückt ermöglicht das Weltmodell dem Agenten Folgendes zu beantworten:
„Wenn ich das tue, was passiert als Nächstes?“
Das ist wie beim Schachspielen: Man zieht nicht direkt, sondern simuliert zuerst ein paar Schritte im Kopf und sagt die Reaktion des Gegners voraus.
Forschungsrichtungen für Weltmodelle umfassen:
Vortrainierte Weltmodelle– vorab trainiert mit großen Mengen an Interaktionsdaten, wodurch der Agent physikalisches Allgemeinwissen erhält.
Eingebildete Planung– den Agenten mehrere Ansätze in der „Einbildung“ ausprobieren und den besten auswählen lassen.
Kausales Verständnis– den Agenten nicht nur wissen lassen, „was passiert ist“, sondern auch verstehen lassen, „warum es passiert ist“.
Verkörperte Intelligenz (Embodied AI)
Verkörperte Intelligenz konzentriert sich auf:KI, die einen „Körper“ in der physischen oder virtuellen Welt besitzt。
Zum Beispiel:
– Roboter, die in der realen Welt Gegenstände greifen und navigieren
– KI, die in Minecraft komplexe Strukturen baut
– digitale Menschen, die in virtuellen Umgebungen mit der Umgebung interagieren
Die Herausforderung der verkörperten Intelligenz besteht darin, dass die physische Welt kontinuierlich, unvorhersehbar und rauschbehaftet ist – ganz anders als die diskrete Welt des Textes.
Aber genau dieses „Gefühl für Realität“ macht verkörperte Intelligenz zu einem wichtigen Pfad zum Erlernen des gesunden Menschenverstands.
Die Bedeutung der Codeausführungsfähigkeit
Eine Schlüsselfähigkeit moderner Agenten ist:Code schreiben und Code ausführen zu können。
Code ist das „universelle Werkzeug“ des Agenten:
– wenn Berechnungen erforderlich sind, wird ein Stück Python-Code geschrieben
– wenn Datenanalyse erforderlich ist, wird SQL oder Pandas geschrieben
– wenn Aufgabenautomatisierung erforderlich ist, werden Skripte geschrieben, um verschiedene APIs aufzurufen
– wenn komplexes Schließen erforderlich ist, wird Code zur Implementierung von Algorithmen geschrieben
Die Codeausführungsfähigkeit ist im Wesentlichen eine Form der „Erweiterbarkeit“ – sie ermöglicht es dem Agenten, bei Bedarf neue Werkzeuge zu erstellen, anstatt auf voreingestellte Fähigkeiten beschränkt zu sein.
Aus diesem Grund legen Modelle wie Claude und GPT-4 großen Wert darauf, ihre Programmierfähigkeiten zu stärken.
Die Kernherausforderung von KI-Agenten:Wie man das „Wissen“ großer Modelle in „Handlungen“ in der realen Welt umsetzt. Dies erfordert Planungsfähigkeit, die Fähigkeit zur Werkzeugnutzung und die Fähigkeit, aus Versuch und Irrtum zu lernen.
Few-Shot- und Zero-Shot-Lernen
Traditionelles maschinelles Lernen erfordert eine große Menge an beschrifteten Daten, um eine Aufgabe gut zu erlernen.
Der durch große Modelle herbeigeführte Paradigmenwechsel ist:Man gibt ein paar Beispiele oder sogar nur Anweisungen vor, und das Modell kann neue Aufgaben lernen。
Das Prinzip des In-Context-Lernens
In-Context-Lernen (Kontextlernen) ist eine der erstaunlichsten Fähigkeiten großer Modelle.
Einfach ausgedrückt: Sie müssen keine Modellparameter ändern; geben Sie einfach ein paar Beispiele in der Eingabe an, und das Modell kann neue Aufgaben lernen.
Zum Beispiel:
Eingabe:
Apfel → Frucht
Karotte → Gemüse
Banane → ?
Das Modell kann das Muster automatisch verstehen und „Frucht“ ausgeben.
Aber wie funktioniert In-Context-Lernen eigentlich?
Forscher haben mehrere Erklärungen vorgeschlagen:
Impliziter Gradientenabstieg– die In-Context-Beispiele entsprechen der Durchführung einer Art „Gradientenaktualisierung“, die jedoch nur während der Inferenz wirksam wird.
Aufgabenabruf– das Modell ruft ähnliche Aufgaben aus Trainingsdaten ab und verwendet dann die Lösung für diese Aufgabe wieder.
Bayes-Inferenz– das Modell führt basierend auf den Beispielen Bayes-Aktualisierungen über den Raum möglicher Hypothesen durch.
Es gibt noch keine völlig konsistente Antwort, aber eines ist sicher:Modelle lernen während des Vortrainings „wie man lernt“。
Die Auswirkungen des Instruktionstrainings
Instruktionstraining ist eine Schlüsseltechnik, um Modelle besser darin zu machen, menschlichen Anweisungen zu folgen.
Der Ansatz ist einfach: Man sammelt eine große Anzahl von „Instruktions-Aufgaben“-Paaren und verwendet sie, um das Modell feinabzustimmen.
Zum Beispiel:
Anweisung: Übersetze den folgenden Satz ins Französische
Eingabe: Hallo, wie geht es dir?
Ausgabe: Bonjour, comment ça va?
Nach dem Instruktionstraining wird das Modell „gehorsamer“ – es führt eher aus, was die Anweisung verlangt, anstatt willkürlich zu generieren.
Noch wichtiger ist, dass das Instruktionstraining eineGeneralisierungsfähigkeitmit sich bringt – das Modell schneidet bei bekannten Aufgaben gut ab und kann auch bei völlig unbekannten neuen Aufgaben gute Leistungen erbringen.
Das ist wie bei einem guten Schüler: Er lernt nicht mechanisch auswendig, sondern hat gelernt, „wie man Anweisungen versteht und ausführt“.
| Lernparadigmen | Erforderliche Daten | Repräsentative Methoden | Anwendbare Szenarien |
|---|---|---|---|
| Traditionelles überwachtes Lernen | Große Mengen an beschrifteten Daten | Feinabstimmung des gesamten Modells | Hochwertige Aufgaben mit ausreichenden Daten |
| Few-Shot-Lernen | Ein paar Beispiele | In-Context-Lernen | Schneller Test für neue Aufgaben |
| Zero-Shot-Lernen | Nur Anweisungen | Instruktionstraining | Einfache Aufgaben mit geringem Risiko |
| Chain-of-Thought (CoT) | Beispiele mit Denkschritten | Schritt-für-Schritt-Prompting | Komplexe Denkaufgaben |
Der Kernwert des Few-Shot-Learning:Senkung der Hürde für die Anwendung von KIMittlerweile muss man kein Experte für maschinelles Lernen sein oder große Datenmengen sammeln – es reicht aus, Prompts schreiben zu können, um sich von KI bei der Erledigung von Aufgaben helfen zu lassen.
KI und wissenschaftliche Entdeckungen
KI verändert nicht nur unser Leben, sondern auch die wissenschaftliche Forschung selbst – von Proteinstrukturen bis hin zu mathematischen Theoremen, von der Entdeckung von Wirkstoffen bis zum Materialdesign wird KI zu einem mächtigen Assistenten für Wissenschaftler.
Die Bedeutung von AlphaFold
Im Jahr 2020 war AlphaFold ein Meilenstein: Es löste das „Proteinfaltungsproblem“, das die Biologengemeinschaft 50 Jahre lang beschäftigt hatte.
Vereinfacht ausgedrückt ist ein Protein eine Kette von Aminosäuren, die sich jedoch zu einer komplexen 3D-Struktur faltet – und diese Struktur bestimmt ihre Funktion.
Zuvor konnte die Entschlüsselung einer Proteinstruktur Jahre und einen großen finanziellen Aufwand an Experimenten erfordern.
Mittlerweile kann AlphaFold innerhalb von Minuten eine präzise 3D-Struktur vorhersagen.
Die Auswirkungen von AlphaFold sind tiefgreifend:
– Hilfe beim Verständnis von Krankheitsmechanismen
– Beschleunigung der Medikamentenentwicklung
– Entwurf völlig neuer Proteine
Noch wichtiger ist, dass AlphaFold bewiesen hat:KI kann wesentliche Beiträge an den Grenzen des menschlichen Wissens leisten。
KI für Mathematik
Die mathematische Forschung gilt als der Gipfel der menschlichen Intelligenz – doch auch in diesem Bereich beginnt die KI ihre Spuren zu hinterlassen.
Zu den jüngsten Fortschritten gehören:
Theorem-beweisende Assistenten– Beweisassistenten wie Lean und Isabelle können in Kombination mit großen Modellen Mathematikern helfen, Beweise zu formalisieren.
Vermutungserkennung– KI kann Muster in mathematischen Objekten entdecken und neue Vermutungen aufstellen.
Symbolisches Schließen– KI kann symbolische Berechnungen, Vereinfachungen und Ableitungen durchführen.
Beispielsweise entdeckte AlphaTensor von DeepMind effizientere Matrixmultiplikationsalgorithmen; die KI von Meta half Mathematikern bei neuen Entdeckungen im Bereich der Topologie.
Aktuelle KI kann zwar noch keine mathematische Forschung unabhängig durchführen, ist aber bereits ein „Kollaborationspartner“ für Mathematiker geworden.
Arzneimittelforschung
Die Medikamentenentwicklung ist ein langer und teurer Prozess – im Durchschnitt dauert sie 10 Jahre und kostet 1 Milliarde Dollar.
KI verändert diese Situation:
Zielstrukturerkennung– KI analysiert biologische Daten, um krankheitsbezogene Proteinzielstrukturen zu finden.
Molekulargenerierung– KI generiert neuartige Kandidatenmoleküle und sagt deren Eigenschaften voraus.
ADMET-Vorhersage– KI sagt Medikamentenaufnahme, -stoffwechsel, -toxizität usw. voraus.
Syntheseweg-Design– KI entwirft optimale Routen für die organische Synthese.
Mehrere KI-Pharmaunternehmen haben die Phase klinischer Studien erreicht – obwohl noch kein durch KI entdecktes Medikament auf dem Markt ist, ist das Potenzial in dieser Richtung enorm.
| Wissenschaftliches Gebiet | KI-Anwendungen | Repräsentative Erfolge |
|---|---|---|
| Strukturbiologie | Proteinstrukturvorhersage | AlphaFold、RoseTTAFold |
| Mathematik | Theorem-Beweis, Vermutungserkennung | AlphaTensor、Lean AI |
| Chemie | Molekulargenerierung, Reaktionsvorhersage | AlphaFold for ligands |
| Arzneimittelentwicklung | Zielstrukturerkennung, Kandidatendesign | Mehrere Unternehmen treten in klinische Studien ein |
| Materialwissenschaften | Neues Materialdesign | Batteriematerialien, Katalysatoren |
Weitere ErweiterungenDie Kernertkenntnisse der durch KI gestützten wissenschaftlichen Entdeckung:Wissenschaftliche Forschung ist im Wesentlichen „die Suche in einem riesigen Möglichkeitsraum“– und das, worin KI sich auszeichnet, ist genau das Finden von Mustern in massiven Daten und hochdimensionalen Räumen.