Bemerkung

Hallo und willkommen in der SunFounder Raspberry Pi & Arduino & ESP32 Enthusiasten-Gemeinschaft auf Facebook! Tauchen Sie tiefer ein in die Welt von Raspberry Pi, Arduino und ESP32 mit anderen Enthusiasten.

Warum beitreten?

• Expertenunterstützung: Lösen Sie Nachverkaufsprobleme und technische Herausforderungen mit Hilfe unserer Gemeinschaft und unseres Teams.

• Lernen & Teilen: Tauschen Sie Tipps und Anleitungen aus, um Ihre Fähigkeiten zu verbessern.

• Exklusive Vorschauen: Erhalten Sie frühzeitigen Zugang zu neuen Produktankündigungen und exklusiven Einblicken.

• Spezialrabatte: Genießen Sie exklusive Rabatte auf unsere neuesten Produkte.

• Festliche Aktionen und Gewinnspiele: Nehmen Sie an Gewinnspielen und Feiertagsaktionen teil.

👉 Sind Sie bereit, mit uns zu erkunden und zu erschaffen? Klicken Sie auf [here] und treten Sie heute bei!

18. Verbindung zu Online-LLMs herstellen

In dieser Lektion lernst du, wie du deinen Pidog (oder Raspberry Pi) mit verschiedenen Online-LLMs (Large Language Models) verbindest. Jeder Anbieter erfordert einen API-Schlüssel und bietet unterschiedliche Modelle zur Auswahl an.

Wir werden lernen, wie man:

• API-Schlüssel sicher erstellt und speichert.

• Ein Modell auswählt, das zu den eigenen Anforderungen passt.

• Den Beispielcode ausführt, um mit den Modellen zu chatten.

---

Bevor du beginnst

Stelle sicher, dass du Folgendes abgeschlossen hast:

• Alle Module installieren (Wichtig) — Installiere die Module robot-hat, vilib, pidog und führe dann das Skript i2samp.sh aus.

OpenAI

OpenAI bietet leistungsstarke Modelle wie GPT-4o und GPT-4.1, die sowohl Text- als auch Bildverarbeitung unterstützen.

So richtest du es ein:

API-Schlüssel abrufen und speichern

1. Gehe zu OpenAI Platform und melde dich an. Öffne die Seite API keys und klicke auf Create new secret key.

   

2. Fülle die Details aus (Owner, Name, Projekt und ggf. Berechtigungen) und klicke auf Create secret key.

   

3. Kopiere den Schlüssel sofort — du wirst ihn später nicht mehr sehen können. Wenn du ihn verlierst, musst du einen neuen erstellen.

   

4. Erstelle in deinem Projektordner (z. B. /pidog/examples) eine Datei namens secret.py:

   cd ~/pidog/examples
   sudo nano secret.py
   

5. Füge deinen Schlüssel in die Datei ein:

   # secret.py
   # Store secrets here. Never commit this file to Git.
   OPENAI_API_KEY = "sk-xxx"
   

Abrechnung aktivieren und Modelle prüfen

1. Bevor du den Schlüssel verwendest, gehe auf die Billing-Seite in deinem OpenAI-Konto, füge Zahlungsinformationen hinzu und lade ein kleines Guthaben auf.

   

2. Gehe dann zur Limits-Seite, um zu sehen, welche Modelle für dein Konto verfügbar sind. Kopiere die exakte Modell-ID für die Verwendung im Code.

   

Mit Beispielcode testen

1. Öffne den Beispielcode:

   cd ~/pidog/examples
   sudo nano 18.online_llm_test.py
   

2. Ersetze den Inhalt durch folgenden Code und passe model="xxx" an dein gewünschtes Modell an (z. B. gpt-4o):

   from pidog.llm import OpenAI
   from secret import OPENAI_API_KEY
   
   INSTRUCTIONS = "You are a helpful assistant."
   WELCOME = "Hello, I am a helpful assistant. How can I help you?"
   
   llm = OpenAI(
       api_key=OPENAI_API_KEY,
       model="gpt-4o",
   )
   

   Speichere und beende (Ctrl+X, dann Y, dann Enter).

3. Führe anschließend den Test aus:

   sudo python3 18.online_llm_test.py
   

---

Gemini

Gemini ist die KI-Modellfamilie von Google. Sie ist schnell und eignet sich gut für allgemeine Anwendungsfälle.

API-Schlüssel abrufen und speichern

1. Melde dich bei Google AI Studio an und gehe zur API-Key-Seite.

   

2. Klicke oben rechts auf Create API key.

   

3. Erstelle einen Schlüssel für ein bestehendes oder ein neues Projekt.

   

4. Kopiere den generierten API-Schlüssel.

   

5. Öffne in deinem Projektordner die Datei:

   cd ~/pidog/examples
   sudo nano secret.py
   

6. Füge den Schlüssel ein:

   # secret.py
   # Store secrets here. Never commit this file to Git.
   GEMINI_API_KEY = "AIxxx"
   

Verfügbare Modelle prüfen

Gehe zur offiziellen Gemini Models-Seite. Dort findest du eine Liste der Modelle, deren exakte API-IDs und empfohlene Anwendungsfälle.

Mit Beispielcode testen

1. Öffne die Testdatei:

   cd ~/pidog/examples
   sudo nano 18.online_llm_test.py
   

2. Ersetze den Inhalt durch folgenden Code und passe model="xxx" an das gewünschte Modell an (z. B. gemini-2.5-flash):

   from pidog.llm import Gemini
   from secret import GEMINI_API_KEY
   
   INSTRUCTIONS = "You are a helpful assistant."
   WELCOME = "Hello, I am a helpful assistant. How can I help you?"
   
   llm = Gemini(
       api_key=GEMINI_API_KEY,
       model="gemini-2.5-flash",
   )
   

3. Speichern und ausführen:

   sudo python3 18.online_llm_test.py
   

---

Qwen

Qwen ist eine Familie von großen Sprach- und Multimodalmodellen, die von Alibaba Cloud bereitgestellt werden. Diese Modelle unterstützen Textgenerierung, logisches Schlussfolgern und multimodales Verständnis (z. B. Bildanalyse).

API-Schlüssel abrufen

Um Qwen-Modelle aufzurufen, benötigst du einen API-Schlüssel. Internationale Nutzer verwenden die DashScope International (Model Studio) Konsole, Nutzer in Festlandchina stattdessen die Bailian (百炼) Konsole.

• Für internationale Nutzer

  1. Gehe auf die offizielle Get API Key Seite auf Alibaba Cloud.

  2. Melde dich an oder erstelle ein Alibaba Cloud Konto.

  3. Navigiere zu Model Studio (Region Singapur oder Peking auswählen).

     • Wenn oben eine Meldung „Activate Now“ erscheint, klicke darauf, um Model Studio zu aktivieren und das kostenlose Kontingent (nur Singapur) zu erhalten.

     • Die Aktivierung ist kostenlos – erst nach Verbrauch des Freikontingents wird abgerechnet.

     • Wenn keine Aktivierungsaufforderung erscheint, ist der Dienst bereits aktiv.

  4. Gehe zur Seite Key Management. Klicke auf dem Tab API Key auf Create API Key.

  5. Nach der Erstellung kopiere deinen API-Schlüssel und bewahre ihn sicher auf.

  

  Bemerkung

  Nutzer in Hongkong, Macau und Taiwan sollten ebenfalls die Option International (Model Studio) wählen.

• Für Nutzer in Festlandchina

  Wenn du dich in Festlandchina befindest, kannst du stattdessen die Alibaba Cloud Bailian (百炼) Konsole verwenden:

  1. Melde dich bei Bailian console (Bailian-Konsole) an und schließe die Kontoüberprüfung ab.

  2. Wähle Create API Key. Wenn eine Meldung erscheint, dass der Modelldienst nicht aktiviert ist, klicke auf Activate, stimme den Bedingungen zu und sichere dir dein kostenloses Kontingent. Danach wird die Schaltfläche Create API Key aktiviert.

     

  3. Klicke erneut auf Create API Key, überprüfe dein Konto und bestätige mit Confirm.

     

  4. Nach der Erstellung kopiere deinen API-Schlüssel.

     

API-Schlüssel speichern

1. In deinem Projektordner:

   cd ~/pidog/examples
   sudo nano secret.py
   

2. Füge den Schlüssel wie folgt ein:

   # secret.py
   # Store secrets here. Never commit this file to Git.
   
   QWEN_API_KEY = "sk-xxx"
   

Mit Beispielcode testen

1. Öffne die Testdatei:

   cd ~/pidog/examples
   sudo nano 18.online_llm_test.py
   

2. Ersetze den Inhalt mit folgendem Code und passe model="xxx" an das gewünschte Modell an (z. B. qwen-plus):

   from pidog.llm import Qwen
   from secret import QWEN_API_KEY
   
   INSTRUCTIONS = "You are a helpful assistant."
   WELCOME = "Hello, I am a helpful assistant. How can I help you?"
   
   llm = Qwen(
       api_key=QWEN_API_KEY,
       model="qwen-plus",
   )
   

3. Ausführen mit:

   sudo python3 18.online_llm_test.py
   

Grok (xAI)

Grok ist die KI-Chatplattform von xAI, entwickelt vom Team um Elon Musk. Du kannst über die xAI API eine Verbindung zu ihr herstellen.

API-Schlüssel abrufen und speichern

1. Registriere dich unter xAI Cloud Console. Lade zuerst Guthaben auf dein Konto — ohne Guthaben funktioniert die API nicht.

2. Gehe zur API-Key-Seite und klicke auf Create API key.

   

3. Gib einen Namen für den Schlüssel ein und klicke auf Create API key.

   

4. Kopiere den generierten Schlüssel und bewahre ihn sicher auf.

   

5. In deinem Projektordner:

   cd ~/pidog/examples
   sudo nano secret.py
   

6. Füge den Schlüssel ein:

   # secret.py
   # Store secrets here. Never commit this file to Git.
   
   GROK_API_KEY = "xai-xxx"
   

Verfügbare Modelle prüfen

Gehe zur Modellseite in der xAI-Konsole. Dort kannst du alle für dein Team verfügbaren Modelle sowie deren genaue API-IDs sehen — verwende diese IDs in deinem Code.

Mit Beispielcode testen

1. Öffne die Testdatei:

   cd ~/pidog/examples
   sudo nano 18.online_llm_test.py
   

2. Ersetze den Inhalt mit folgendem Code und passe model="xxx" an dein gewünschtes Modell an (z. B. grok-4-latest):

   from pidog.llm import Grok
   from secret import GROK_API_KEY
   
   INSTRUCTIONS = "You are a helpful assistant."
   WELCOME = "Hello, I am a helpful assistant. How can I help you?"
   
   llm = Grok(
       api_key=GROK_API_KEY,
       model="grok-4-latest",
   )
   

3. Führe den Test aus:

   sudo python3 18.online_llm_test.py
   

---

DeepSeek

DeepSeek ist ein chinesischer Anbieter von LLMs, der leistungsfähige und preiswerte Modelle anbietet.

API-Schlüssel abrufen und speichern

1. Melde dich bei Deepseek Platform an.

2. Wähle im Menü oben rechts API Keys → Create API Key.

   

3. Gib einen Namen ein, klicke auf Create und kopiere den Schlüssel.

   

4. In deinem Projektordner:

   cd ~/pidog/examples
   sudo nano secret.py
   

5. Füge den Schlüssel ein:

   # secret.py
   DEEPSEEK_API_KEY = "sk-xxx"
   

Abrechnung aktivieren

Du musst dein Konto zuerst aufladen. Starte mit einem kleinen Betrag (z. B. ¥10 RMB).

Verfügbare Modelle

Zum Zeitpunkt (2025-09-12) bietet DeepSeek:

• deepseek-chat

• deepseek-reasoner

Mit Beispielcode testen

1. Öffne die Testdatei:

   cd ~/pidog/examples
   sudo nano 18.online_llm_test.py
   

2. Ersetze den Inhalt mit folgendem Code und passe model="xxx" an dein gewünschtes Modell an (z. B. deepseek-chat):

   from pidog.llm import Deepseek
   from secret import DEEPSEEK_API_KEY
   
   INSTRUCTIONS = "You are a helpful assistant."
   WELCOME = "Hello, I am a helpful assistant. How can I help you?"
   
   llm = Deepseek(
       api_key=DEEPSEEK_API_KEY,
       model="deepseek-chat",
       max_messages=20,
   )
   

3. Führe das Skript aus:

   sudo python3 18.online_llm_test.py
   

---

Doubao

Doubao ist die KI-Modellplattform von ByteDance (Volcengine Ark).

API-Schlüssel abrufen und speichern

1. Melde dich bei Volcengine an.

2. Scrolle im linken Menü nach unten zu API Key Management → Create API Key.

   

3. Wähle einen Namen und klicke auf Create.

   

4. Klicke auf das Show API Key-Symbol und kopiere den Schlüssel.

   

5. In deinem Projektordner:

   cd ~/pidog/examples
   sudo nano secret.py
   

6. Füge den Schlüssel ein:

   # secret.py
   DOUBAO_API_KEY = "xxx"
   

Modell auswählen

1. Gehe zum Modell-Marktplatz und wähle ein Modell aus.

   

2. Wähle zum Beispiel Doubao-seed-1.6 und klicke auf API 接入.

   

3. Wähle deinen API-Schlüssel aus und klicke auf Use API.

   

4. Klicke auf Enable Model.

   

5. Fahre mit der Maus über die Modell-ID, um sie zu kopieren.

   

Mit Beispielcode testen

1. Öffne die Testdatei:

   cd ~/pidog/examples
   sudo nano 18.online_llm_test.py
   

2. Ersetze den Inhalt mit folgendem Code und passe model="xxx" an das gewünschte Modell an (z. B. doubao-seed-1-6-250615):

   from pidog.llm import Doubao
   from secret import DOUBAO_API_KEY
   
   INSTRUCTIONS = "You are a helpful assistant."
   WELCOME = "Hello, I am a helpful assistant. How can I help you?"
   
   llm = Doubao(
       api_key=DOUBAO_API_KEY,
       model="doubao-seed-1-6-250615",
   )
   

3. Führe das Skript aus:

   sudo python3 18.online_llm_test.py
   

Allgemein

Dieses Projekt unterstützt die Verbindung zu mehreren LLM-Plattformen über eine einheitliche Schnittstelle. Wir bieten integrierte Kompatibilität mit:

• OpenAI (ChatGPT / GPT-4o, GPT-4, GPT-3.5)

• Gemini (Google AI Studio / Vertex AI)

• Grok (xAI)

• DeepSeek

• Qwen (通义千问)

• Doubao (豆包)

Zusätzlich kannst du dich mit jeder anderen LLM-Plattform verbinden, die das OpenAI-API-Format unterstützt. Dafür musst du deinen API-Schlüssel und die passende base_url selbst eintragen.

API-Schlüssel abrufen und speichern

1. Besorge einen API-Schlüssel von der Plattform, die du verwenden möchtest. (Details findest du in der jeweiligen offiziellen Konsole.)

2. Erstelle in deinem Projektordner eine neue Datei:

   cd ~/pidog/examples
   nano secret.py
   

3. Füge deinen Schlüssel in secret.py ein:

   # secret.py
   API_KEY = "your_api_key_here"
   

Warnung

Bewahre deinen API-Schlüssel sicher auf. Lade secret.py niemals in öffentliche Repositories hoch.

Mit Beispielcode testen

1. Öffne die Testdatei:

   cd ~/pidog/examples
   sudo nano 18.online_llm_test.py
   

2. Ersetze den Inhalt der Python-Datei mit folgendem Beispiel und trage die richtige base_url und das gewünschte model für deine Plattform ein:

   Bemerkung

   Über base_url: Wir unterstützen das OpenAI API-Format sowie jede API, die damit kompatibel ist. Jeder Anbieter hat seine eigene base_url. Sieh in der jeweiligen Dokumentation nach.

   from pidog.llm import LLM
   from secret import API_KEY
   
   INSTRUCTIONS = "You are a helpful assistant."
   WELCOME = "Hello, I am a helpful assistant. How can I help you?"
   
   llm = LLM(
       base_url="https://api.example.com/v1",  # trage hier die base_url deines Anbieters ein
       api_key=API_KEY,
       model="your-model-name-here",          # wähle ein Modell deines Anbieters
   )
   

3. Führe das Programm aus:

   python3 18.online_llm_test.py