Ollama-Modellinteraktion

Ollama bietet mehrere Möglichkeiten, mit Modellen zu interagieren; am häufigsten sind Inferenzoperationen über die Kommandozeile.

1. Kommandozeilen-Interaktion

Die direkte Interaktion mit dem Modell über die Kommandozeile ist der einfachste Weg.

Das Modell ausführen

Nutzen Sie den Befehlollama run, um das Modell zu starten und in den interaktiven Modus zu wechseln:

ollama run <model-name>

Zum Beispiel laden wir das Modell qwen3.5 herunter:

Beispiel

ollama run qwen3.5

Nach dem Start können Sie direkt Fragen oder Befehle eingeben, und das Modell generiert Antworten in Echtzeit.

>>> 你好,你能帮我写一段代码吗?
当然可以。但是首先我想知道您希望在哪种编程语言中实现这个功能(例如Python、JavaScript等)和要解决什么问题或者完成的任务是什么样的例子呢?这样我们可以为您提供更准确的
内容,同时也方便我帮助你写出最适合您的代码片段。


>>> 写一段 python hello world
当然可以!这是一个简单的 "Hello, World!" 程序:

```python
print("Hello, World!")
```
这个脚本会输出 `Hello, World!`,并将其打印到控制台上。这只是最基本的 Python Hello world示例;Python是一种解释型、通用型的编程语言以其简洁性和易读性而闻名。它还允许
用户在代码中插入变量和表达式来创建复杂的行为。

Interaktiven Modus beenden

Geben Sie im interaktiven Modus/byeein oder drücken SieCtrl+d , um zu beenden.


2. Interaktion mit einem einzelnen Befehl

Wenn Sie nur möchten, dass das Modell eine einzelne Antwort generiert, können Sie die Eingabe direkt auf der Kommandozeile übergeben.

Pipe-Eingabe verwenden

Übergeben Sie die Eingabe über eine Pipe an das Modell:

Beispiel

echo "Wer bist du?" | ollama run qwen3.5

Die Ausgabe sieht wie folgt aus:

Verwenden von Kommandozeilenargumenten

Übergeben Sie die Eingabe direkt auf der Kommandozeile:

ollama run qwen3.5 "Python 的 hello world 代码?"

Die Ausgabe sieht wie folgt aus:

在 Python 中,"Hello World!" 通常是这段简单的脚本:
```python
print("Hello World!")
```
当你运行这个程序时,它会输出 `Hello, World`。这是因为 print() 函数将字符串 "Hello, World" 打印到标准输出设备 (stdout) - 也就是你的屏幕上显示的信息(在这种情况下是命
令行终端或类似的工具中运行 Python 脚本时,它会直接写入控制台。

3. Mehrrunden-Konversation

Ollama unterstützt Konversationen mit mehreren Runden, und das Modell kann sich den Kontext merken.

Beispiel

>>>Hallo, kannst du mir helfen, ein Stück Python-Code zu schreiben?
Natürlich! Bitte sag mir, welche Funktionalität du implementieren möchtest.

>>>Ich möchte eine Funktion schreiben, um die Fibonacci-Folge zu berechnen.
Okay, hier ist eine einfache Python-Funktion:
def fibonacci(n):
    if n <= 1:
        return n
    else:
        return fibonacci(n-1) + fibonacci(n-2)

4. Dateieingabe

Du kannst Dateiinhalte als Eingabe an das Modell übergeben.

Angenommen, der Inhalt von input.txt ist:

 Python 的 hello world 代码?

Verwende den Inhalt von input.txt als Eingabe:

ollama run qwen3.5 < input.txt

5. Benutzerdefinierter Prompt

Definieren Sie benutzerdefinierte Prompts oder Systemanweisungen über die Modelfile, damit das Modell während Interaktionen bestimmten Regeln folgt.

Ein benutzerdefiniertes Modell erstellen

Modelfile schreiben:

Beispiel

FROM qwen3.5
SYSTEM "Sie sind ein Programmierassistent, der Benutzern dabei hilft, Code zu schreiben."
Erstellen Sie dann das benutzerdefinierte Modell:
ollama create example-coder -f ./Modelfile

Führen Sie das benutzerdefinierte Modell aus:

ollama run example-coder

6. Interaktionsprotokolle

Ollama protokolliert Interaktionen, um Debugging und Analyse zu erleichtern.

Protokolle anzeigen:

ollama logs
Andere Erweiterungen