Bemerkung

Hallo, willkommen in der SunFounder Raspberry Pi & Arduino & ESP32 Enthusiasten-Community auf Facebook! Tauche gemeinsam mit anderen Enthusiasten tiefer in Raspberry Pi, Arduino und ESP32 ein.

Warum beitreten?

  • Expertenunterstützung: Lösen Sie nach dem Kauf auftretende Probleme und technische Herausforderungen mit Hilfe unserer Community und unseres Teams.

  • Lernen & Teilen: Tauschen Sie Tipps und Tutorials aus, um Ihre Fähigkeiten zu verbessern.

  • Exklusive Vorschauen: Erhalten Sie frühzeitigen Zugriff auf neue Produktankündigungen und exklusive Einblicke.

  • Spezielle Rabatte: Profitieren Sie von exklusiven Rabatten auf unsere neuesten Produkte.

  • Festliche Aktionen und Gewinnspiele: Nehmen Sie an Verlosungen und Feiertagsaktionen teil.

👉 Bereit, mit uns zu entdecken und zu kreieren? Klicken Sie auf [hier] und treten Sie noch heute bei!

17. Verbindung zu Online-LLMs

In dieser Lektion lernen Sie, wie Sie Ihren PiCrawler (oder Raspberry Pi) mit verschiedenen Online Large Language Models (LLMs) verbinden. Jeder Anbieter benötigt einen API-Schlüssel und bietet verschiedene Modelle zur Auswahl.

Wir behandeln:

  • Erstellen und sicheres Speichern Ihrer API-Schlüssel.

  • Auswahl eines Modells, das Ihren Anforderungen entspricht.

  • Ausführen unseres Beispielcodes, um mit den Modellen zu kommunizieren.

Gehen wir jeden Anbieter Schritt für Schritt durch.

Bevor Sie beginnen

Stellen Sie sicher, dass Sie Folgendes abgeschlossen haben:

OpenAI

OpenAI bietet leistungsstarke Modelle wie GPT-4o und GPT-4.1, die sowohl für Text- als auch für Bildverarbeitungsaufgaben verwendet werden können.

So richten Sie es ein:

API-Schlüssel erhalten und speichern

  1. Gehen Sie zu OpenAI Plattform und melden Sie sich an. Klicken Sie auf der Seite API keys auf Create new secret key.

    ../_images/llm_openai_create.png

  2. Füllen Sie die Details aus (Owner, Name, Project und Berechtigungen falls erforderlich) und klicken Sie dann auf Create secret key.

    ../_images/llm_openai_create_confirm.png

  3. Kopieren Sie den Schlüssel sofort nach der Erstellung — Sie können ihn später nicht mehr einsehen. Wenn Sie ihn verlieren, müssen Sie einen neuen erstellen.

    ../_images/llm_openai_copy.png

  4. Erstellen Sie in Ihrem Projektordner (z. B. /picrawler/examples) eine Datei namens secret.py:

    cd ~/picrawler/examples
sudo nano secret.py

  5. Fügen Sie Ihren Schlüssel wie folgt in die Datei ein:

    # secret.py
# Geheimnisse hier speichern. Diese Datei niemals in Git committen.
OPENAI_API_KEY = "sk-xxx"

Abrechnung aktivieren und Modelle prüfen

  1. Gehen Sie vor der Verwendung des Schlüssels auf die Seite Billing in Ihrem OpenAI-Konto, fügen Sie Ihre Zahlungsdaten hinzu und laden Sie einen kleinen Betrag an Guthaben auf.

    ../_images/llm_openai_billing.png

  2. Gehen Sie dann zur Seite Limits, um zu prüfen, welche Modelle für Ihr Konto verfügbar sind, und kopieren Sie die genaue Modell-ID zur Verwendung in Ihrem Code.

    ../_images/llm_openai_models.png

Mit Beispielcode testen

  1. Beispielcode öffnen:

    cd ~/picrawler/examples
sudo nano 18.online_llm_test.py

  2. Ersetzen Sie den Inhalt durch den folgenden Code und aktualisieren Sie model="xxx" auf das gewünschte Modell (z. B. gpt-4o):

    from picrawler.llm import OpenAI
from secret import OPENAI_API_KEY

INSTRUCTIONS = "You are a helpful assistant."
WELCOME = "Hello, I am a helpful assistant. How can I help you?"

llm = OpenAI(
    api_key=OPENAI_API_KEY,
    model="gpt-4o",
)

    Speichern und beenden (Strg+X, dann Y, dann Enter).

  3. Führen Sie den Test aus:

    sudo python3 18.online_llm_test.py

Gemini

Gemini ist Googles Familie von KI-Modellen. Es ist schnell und hervorragend für allgemeine Aufgaben geeignet.

API-Schlüssel erhalten und speichern

  1. Melden Sie sich bei Google AI Studio an und gehen Sie zur API-Schlüssel-Seite.

    ../_images/llm_gemini_get.png

  2. Klicken Sie oben rechts auf die Schaltfläche Create API key.

    ../_images/llm_gemini_create.png

  3. Sie können einen Schlüssel für ein bestehendes oder ein neues Projekt erstellen.

    ../_images/llm_gemini_choose.png

  4. Kopieren Sie den generierten API-Schlüssel.

    ../_images/llm_gemini_copy.png

  5. In Ihrem Projektordner:

    cd ~/picrawler/examples
sudo nano secret.py

  6. Fügen Sie den Schlüssel ein:

     # secret.py
 # Geheimnisse hier speichern. Diese Datei niemals in Git committen.
GEMINI_API_KEY = "AIxxx"

Verfügbare Modelle prüfen

Besuchen Sie die offizielle Gemini Models-Seite. Hier sehen Sie die Liste der Modelle, ihre genauen API-IDs und wofür jedes Modell optimiert ist.

../_images/llm_gemini_model.png

Mit Beispielcode testen

  1. Testdatei öffnen:

    cd ~/picrawler/examples
sudo nano 18.online_llm_test.py

  2. Ersetzen Sie den Inhalt durch den folgenden Code und aktualisieren Sie model="xxx" auf das gewünschte Modell (z. B. gemini-2.5-flash):

    from picrawler.llm import Gemini
from secret import GEMINI_API_KEY

INSTRUCTIONS = "You are a helpful assistant."
WELCOME = "Hello, I am a helpful assistant. How can I help you?"

llm = Gemini(
    api_key=GEMINI_API_KEY,
    model="gemini-2.5-flash",
)

  3. Speichern und ausführen:

    sudo python3 18.online_llm_test.py

Qwen

Qwen ist eine Familie von Large Language und multimodalen Modellen, die von Alibaba Cloud bereitgestellt werden. Diese Modelle unterstützen Textgenerierung, Reasoning und multimodales Verständnis (wie Bildanalyse).

API-Schlüssel erhalten

Um Qwen-Modelle aufzurufen, benötigen Sie einen API-Schlüssel. Die meisten internationalen Benutzer sollten die DashScope International (Model Studio)-Konsole verwenden. Benutzer in Festlandchina können stattdessen die Bailian (百炼)-Konsole verwenden.

  • Für internationale Benutzer

    1. Besuchen Sie die offizielle Get API Key-Seite auf Alibaba Cloud.

    2. Melden Sie sich an oder erstellen Sie ein Alibaba Cloud-Konto.

    3. Navigieren Sie zu Model Studio (wählen Sie die Region Singapur oder Peking).

      • Wenn oben auf der Seite die Aufforderung „Jetzt aktivieren“ erscheint, klicken Sie darauf, um Model Studio zu aktivieren und das kostenlose Kontingent zu erhalten (nur Singapur).

      • Die Aktivierung ist kostenlos — Ihnen werden erst Kosten berechnet, nachdem Ihr kostenloses Kontingent aufgebraucht ist.

      • Wenn keine Aktivierungsaufforderung erscheint, ist der Dienst bereits aktiv.

    4. Gehen Sie zur Seite Key Management. Klicken Sie auf der Registerkarte API Key auf Create API Key.

    5. Kopieren Sie nach der Erstellung Ihren API-Schlüssel und bewahren Sie ihn sicher auf.

    Bemerkung

    Benutzer in Hongkong, Macau und Taiwan sollten ebenfalls die Option International (Model Studio) wählen.

  • Für Benutzer in Festlandchina

    Wenn Sie sich in Festlandchina befinden, können Sie stattdessen die Alibaba Cloud Bailian (百炼)-Konsole verwenden:

    1. Melden Sie sich bei Bailian console (Bailian-Konsole) an und schließen Sie die Kontoverifizierung ab.

    2. Wählen Sie Create API Key. Wenn Sie aufgefordert werden, dass Modelldienste nicht aktiviert sind, klicken Sie auf Activate, stimmen Sie den Bedingungen zu und fordern Sie Ihr kostenloses Kontingent an. Nach der Aktivierung ist die Schaltfläche Create API Key verfügbar.

      ../_images/llm_qwen_aliyun_create.png

    3. Klicken Sie erneut auf Create API Key, überprüfen Sie Ihr Konto und klicken Sie dann auf Confirm.

      ../_images/llm_qwen_aliyun_confirm.png

    4. Kopieren Sie nach der Erstellung Ihren API-Schlüssel.

      ../_images/llm_qwen_aliyun_copy.png

API-Schlüssel speichern

  1. In Ihrem Projektordner:

    cd ~/picrawler/examples
sudo nano secret.py

  2. Fügen Sie Ihren Schlüssel wie folgt ein:

    # secret.py
# Geheimnisse hier speichern. Diese Datei niemals in Git committen.

QWEN_API_KEY = "sk-xxx"

Mit Beispielcode testen

  1. Testdatei öffnen:

    cd ~/picrawler/examples
sudo nano 18.online_llm_test.py

  2. Ersetzen Sie den Inhalt durch den folgenden Code und aktualisieren Sie model="xxx" auf das gewünschte Modell (z. B. qwen-plus):

    from picrawler.llm import Qwen
from secret import QWEN_API_KEY

INSTRUCTIONS = "You are a helpful assistant."
WELCOME = "Hello, I am a helpful assistant. How can I help you?"

llm = Qwen(
    api_key=QWEN_API_KEY,
    model="qwen-plus",
)

  3. Ausführen mit:

    sudo python3 18.online_llm_test.py

Grok (xAI)

Grok ist xAIs konversationelle KI, entwickelt vom Team um Elon Musk. Sie können sich über die xAI-API damit verbinden.

API-Schlüssel erhalten und speichern

  1. Erstellen Sie hier ein Konto: xAI Cloud Console. Laden Sie zuerst etwas Guthaben auf — sonst funktioniert die API nicht.

  2. Gehen Sie zur API-Schlüssel-Seite und klicken Sie auf Create API key.

    ../_images/llm_grok_create.png

  3. Geben Sie einen Namen für den Schlüssel ein und klicken Sie auf Create API key.

    ../_images/llm_grok_name.png

  4. Kopieren Sie den generierten Schlüssel und bewahren Sie ihn sicher auf.

    ../_images/llm_grok_copy.png

  5. In Ihrem Projektordner:

    cd ~/picrawler/examples
sudo nano secret.py

  6. Fügen Sie Ihren Schlüssel wie folgt ein:

    # secret.py
# Geheimnisse hier speichern. Diese Datei niemals in Git committen.

GROK_API_KEY = "xai-xxx"

Verfügbare Modelle prüfen

Gehen Sie zur Modellseite in der xAI-Konsole. Hier sehen Sie alle für Ihr Team verfügbaren Modelle mit ihren genauen API-IDs — verwenden Sie diese IDs in Ihrem Code.

../_images/llm_grok_model.png

Mit Beispielcode testen

  1. Testdatei öffnen:

    cd ~/picrawler/examples
sudo nano 18.online_llm_test.py

  2. Ersetzen Sie den Inhalt durch den folgenden Code und aktualisieren Sie model="xxx" auf das gewünschte Modell (z. B. grok-4-latest):

    from picrawler.llm import Grok
from secret import GROK_API_KEY

INSTRUCTIONS = "You are a helpful assistant."
WELCOME = "Hello, I am a helpful assistant. How can I help you?"

llm = Grok(
    api_key=GROK_API_KEY,
    model="grok-4-latest",
)

  3. Ausführen mit:

    sudo python3 18.online_llm_test.py

DeepSeek

DeepSeek ist ein chinesischer LLM-Anbieter, der erschwingliche und leistungsfähige Modelle anbietet.

API-Schlüssel erhalten und speichern

  1. Melden Sie sich bei Deepseek Platform an.

  2. Wählen Sie im Menü oben rechts API Keys → Create API Key.

    ../_images/llm_deepseek_create.png

  3. Geben Sie einen Namen ein, klicken Sie auf Create und kopieren Sie dann den Schlüssel.

    ../_images/llm_deepseek_copy.png

  4. In Ihrem Projektordner:

    cd ~/picrawler/examples
sudo nano secret.py

  5. Fügen Sie Ihren Schlüssel hinzu:

    # secret.py
DEEPSEEK_API_KEY = "sk-xxx"

Abrechnung aktivieren

Sie müssen zuerst Ihr Konto aufladen. Beginnen Sie mit einem kleinen Betrag (wie ¥10 RMB).

../_images/llm_deepseek_chognzhi.png

Verfügbare Modelle

Zum Zeitpunkt der Erstellung (2025-09-12) bietet DeepSeek:

  • deepseek-chat

  • deepseek-reasoner

Mit Beispielcode testen

  1. Testdatei öffnen:

    cd ~/picrawler/examples
sudo nano 18.online_llm_test.py

  2. Ersetzen Sie den Inhalt durch den folgenden Code und aktualisieren Sie model="xxx" auf das gewünschte Modell (z. B. deepseek-chat):

    from picrawler.llm import Deepseek
from secret import DEEPSEEK_API_KEY

INSTRUCTIONS = "You are a helpful assistant."
WELCOME = "Hello, I am a helpful assistant. How can I help you?"

llm = Deepseek(
    api_key=DEEPSEEK_API_KEY,
    model="deepseek-chat",
    max_messages=20,
)

  3. Ausführen:

    sudo python3 18.online_llm_test.py

Doubao

Doubao ist die KI-Modellplattform von ByteDance (Volcengine Ark).

API-Schlüssel erhalten und speichern

  1. Melden Sie sich bei Volcengine an.

  2. Scrollen Sie im linken Menü nach unten zu API Key Management → Create API Key.

    ../_images/llm_doubao_create.png

  3. Wählen Sie einen Namen und klicken Sie auf Create.

    ../_images/llm_doubao_name.png

  4. Klicken Sie auf das Symbol Show API Key und kopieren Sie ihn.

    ../_images/llm_doubao_copy.png

  5. In Ihrem Projektordner:

    cd ~/picrawler/examples
sudo nano secret.py

  6. Fügen Sie Ihren Schlüssel hinzu:

    # secret.py
DOUBAO_API_KEY = "xxx"

Modell auswählen

  1. Gehen Sie zum Modell-Marktplatz und wählen Sie ein Modell aus.

    ../_images/llm_doubao_model_select.png

  2. Wählen Sie z. B. Doubao-seed-1.6 und klicken Sie dann auf API 接入.

    ../_images/llm_doubao_model.png

  3. Wählen Sie Ihren API-Schlüssel und klicken Sie auf Use API.

    ../_images/llm_doubao_use_api.png

  4. Klicken Sie auf Enable Model.

    ../_images/llm_doubao_kaitong.png

  5. Fahren Sie über die Modell-ID, um sie zu kopieren.

    ../_images/llm_doubao_copy_id.png

Mit Beispielcode testen

  1. Testdatei öffnen:

    cd ~/picrawler/examples
sudo nano 18.online_llm_test.py

  2. Ersetzen Sie den Inhalt durch den folgenden Code und aktualisieren Sie model="xxx" auf das gewünschte Modell (z. B. doubao-seed-1-6-250615):

    from picrawler.llm import Doubao
from secret import DOUBAO_API_KEY

INSTRUCTIONS = "You are a helpful assistant."
WELCOME = "Hello, I am a helpful assistant. How can I help you?"

llm = Doubao(
    api_key=DOUBAO_API_KEY,
    model="doubao-seed-1-6-250615",
)

  3. Ausführen mit:

    sudo python3 18.online_llm_test.py

Allgemein

Dieses Projekt unterstützt die Verbindung zu mehreren LLM-Plattformen über eine einheitliche Schnittstelle. Wir haben integrierte Kompatibilität mit:

  • OpenAI (ChatGPT / GPT-4o, GPT-4, GPT-3.5)

  • Gemini (Google AI Studio / Vertex AI)

  • Grok (xAI)

  • DeepSeek

  • Qwen (通义千问)

  • Doubao (豆包)

Darüber hinaus können Sie sich mit jedem anderen LLM-Dienst verbinden, der mit dem OpenAI-API-Format kompatibel ist. Für diese Plattformen müssen Sie manuell Ihren API-Schlüssel und die korrekte base_url beschaffen.

API-Schlüssel erhalten und speichern

  1. Besorgen Sie sich einen API-Schlüssel von der gewünschten Plattform. (Siehe die offizielle Konsole der jeweiligen Plattform für Details.)

  2. Erstellen Sie in Ihrem Projektordner eine neue Datei:

    cd ~/picrawler/examples
nano secret.py

  3. Fügen Sie Ihren Schlüssel in secret.py ein:

    # secret.py
API_KEY = "your_api_key_here"

Warnung

Halten Sie Ihren API-Schlüssel privat. Laden Sie secret.py nicht in öffentliche Repositories hoch.

Mit Beispielcode testen

  1. Testdatei öffnen:

    cd ~/picrawler/examples
sudo nano 18.online_llm_test.py

  2. Ersetzen Sie den Inhalt einer Python-Datei durch das folgende Beispiel und geben Sie die korrekte base_url und das model für Ihre Plattform ein:

    Bemerkung

    Über base_url: Wir unterstützen das OpenAI-API-Format sowie jede API, die damit kompatibel ist. Jeder Anbieter hat seine eigene base_url. Bitte prüfen Sie deren Dokumentation.

    from picrawler.llm import LLM
from secret import API_KEY

INSTRUCTIONS = "You are a helpful assistant."
WELCOME = "Hello, I am a helpful assistant. How can I help you?"

llm = LLM(
    base_url="https://api.example.com/v1",  # Geben Sie die base_url Ihres Anbieters ein
    api_key=API_KEY,
    model="your-model-name-here",           # Wählen Sie ein Modell Ihres Anbieters
)

  3. Führen Sie das Programm aus:

    python3 18.online_llm_test.py