Bemerkung

Hallo und willkommen in der SunFounder Raspberry Pi & Arduino & ESP32 Enthusiasten-Gemeinschaft auf Facebook! Tauchen Sie tiefer ein in die Welt von Raspberry Pi, Arduino und ESP32 mit anderen Enthusiasten.

Warum beitreten?

• Expertenunterstützung: Lösen Sie Nachverkaufsprobleme und technische Herausforderungen mit Hilfe unserer Gemeinschaft und unseres Teams.

• Lernen & Teilen: Tauschen Sie Tipps und Anleitungen aus, um Ihre Fähigkeiten zu verbessern.

• Exklusive Vorschauen: Erhalten Sie frühzeitigen Zugang zu neuen Produktankündigungen und exklusiven Einblicken.

• Spezialrabatte: Genießen Sie exklusive Rabatte auf unsere neuesten Produkte.

• Festliche Aktionen und Gewinnspiele: Nehmen Sie an Gewinnspielen und Feiertagsaktionen teil.

👉 Sind Sie bereit, mit uns zu erkunden und zu erschaffen? Klicken Sie auf [here] und treten Sie heute bei!

18. Verbindung zu Online-LLMs herstellen

In dieser Lektion lernst du, wie du deinen PiCar-X (oder Raspberry Pi) mit verschiedenen Online-Large-Language-Models (LLMs) verbindest. Jeder Anbieter erfordert einen API-Schlüssel und bietet unterschiedliche Modelle zur Auswahl an.

Wir werden lernen, wie man:

• API-Schlüssel sicher erstellt und speichert.

• Ein passendes Modell auswählt.

• Beispielcode ausführt, um mit den Modellen zu chatten.

---

Bevor du beginnst

Stelle sicher, dass du Folgendes abgeschlossen hast:

• Alle Module installieren (Wichtig) — Installiere die Module robot-hat, vilib, picar-x und führe dann das Skript i2samp.sh aus.

---

OpenAI

OpenAI bietet leistungsstarke Modelle wie GPT-4o und GPT-4.1, die sowohl Text- als auch Vision-Aufgaben unterstützen.

API-Schlüssel abrufen und speichern

1. Gehe zu OpenAI Platform und melde dich an. Auf der Seite API keys klicke auf Create new secret key.

   

2. Gib die Details ein (Owner, Name, Projekt und Berechtigungen falls nötig), dann klicke Create secret key.

   

3. Kopiere den Schlüssel sofort — du kannst ihn später nicht mehr einsehen. Wenn du ihn verlierst, musst du einen neuen erstellen.

   

4. Erstelle in deinem Projektordner (z. B. /picar-x/example) eine Datei namens secret.py:

   cd ~/picar-x/example
   sudo nano secret.py
   

5. Füge den Schlüssel wie folgt ein:

   # secret.py
   # Store secrets here. Never commit this file to Git.
   OPENAI_API_KEY = "sk-xxx"
   

Abrechnung aktivieren und Modelle prüfen

1. Bevor du den Schlüssel verwendest, gehe in deinem OpenAI-Konto zur Billing-Seite, hinterlege Zahlungsinformationen und lade ein kleines Guthaben auf.

   

2. Gehe dann zur Limits-Seite, um zu sehen, welche Modelle verfügbar sind, und kopiere die genaue Modell-ID für den Code.

   

Mit Beispielcode testen

1. Öffne die Beispieldatei:

   cd ~/picar-x/example
   sudo nano 18.online_llm_test.py
   

2. Ersetze den Inhalt durch folgenden Code und aktualisiere model="xxx" (z. B. gpt-4o):

   from picarx.llm import OpenAI
   from secret import OPENAI_API_KEY
   
   INSTRUCTIONS = "You are a helpful assistant."
   WELCOME = "Hello, I am a helpful assistant. How can I help you?"
   
   llm = OpenAI(
       api_key=OPENAI_API_KEY,
       model="gpt-4o",
   )
   

   Speichern und beenden (Ctrl+X, dann Y, dann Enter).

3. Test ausführen:

   sudo python3 18.online_llm_test.py
   

---

Gemini

Gemini ist die Modellfamilie von Google. Schnell und ideal für allgemeine Anwendungsfälle.

API-Schlüssel abrufen und speichern

1. Melde dich bei Google AI Studio an und gehe zur API Keys-Seite.

   

2. Klicke oben rechts auf Create API key.

   

3. Du kannst einen Schlüssel für ein bestehendes oder ein neues Projekt erstellen.

   

4. Kopiere den generierten API-Schlüssel.

   

5. In deinem Projektordner:

   cd ~/picar-x/example
   sudo nano secret.py
   

6. Füge den Schlüssel hinzu:

   # secret.py
   # Store secrets here. Never commit this file to Git.
   GEMINI_API_KEY = "AIxxx"
   

Verfügbare Modelle prüfen

Gehe zur offiziellen Gemini Models-Seite. Dort findest du eine Liste der Modelle, ihre genauen API-IDs und ihre Anwendungsbereiche.

Mit Beispielcode testen

1. Öffne die Testdatei:

   cd ~/picar-x/example
   sudo nano 18.online_llm_test.py
   

2. Ersetze den Inhalt und passe model="xxx" an (z. B. gemini-2.5-flash):

   from picarx.llm import Gemini
   from secret import GEMINI_API_KEY
   
   INSTRUCTIONS = "You are a helpful assistant."
   WELCOME = "Hello, I am a helpful assistant. How can I help you?"
   
   llm = Gemini(
       api_key=GEMINI_API_KEY,
       model="gemini-2.5-flash",
   )
   

3. Speichern und ausführen:

   sudo python3 18.online_llm_test.py
   

---

Qwen

Qwen ist eine Familie von großen Sprach- und Multimodalmodellen, die von Alibaba Cloud bereitgestellt werden. Diese Modelle unterstützen Textgenerierung, logisches Schlussfolgern und multimodales Verständnis (z. B. Bildanalyse).

API-Schlüssel abrufen

Um Qwen-Modelle aufzurufen, benötigst du einen API-Schlüssel. Internationale Nutzer verwenden in der Regel die DashScope International (Model Studio) Konsole. Nutzer in Festlandchina können die Bailian (百炼) Konsole verwenden.

• Für internationale Nutzer

  1. Gehe zur offiziellen Get API Key-Seite von Alibaba Cloud.

  2. Melde dich an oder erstelle ein Alibaba Cloud Konto.

  3. Navigiere zu Model Studio (Region Singapur oder Peking wählen).

     • Wenn ein „Activate Now“-Hinweis oben erscheint, aktiviere Model Studio, um ein kostenloses Kontingent zu erhalten (nur Singapur).

     • Die Aktivierung ist kostenlos — Gebühren fallen erst nach Verbrauch des Freikontingents an.

     • Wenn keine Aktivierungsaufforderung erscheint, ist der Dienst bereits aktiv.

  4. Gehe zur Seite Key Management. Auf dem Reiter API Key klicke auf Create API Key.

  5. Nach der Erstellung kopiere deinen API-Schlüssel und bewahre ihn sicher auf.

  

  Bemerkung

  Nutzer aus Hongkong, Macau und Taiwan sollten ebenfalls die International (Model Studio) Option wählen.

• Für Nutzer in Festlandchina

  1. Melde dich bei Bailian console (Bailian-Konsole) an und verifiziere dein Konto.

  2. Wähle Create API Key. Wenn eine Aktivierungsaufforderung erscheint, aktiviere den Dienst, stimme den Bedingungen zu und beanspruche dein kostenloses Kontingent.

     

  3. Klicke erneut auf Create API Key, überprüfe dein Konto und bestätige.

     

  4. Nach der Erstellung kopiere den API-Schlüssel.

     

API-Schlüssel speichern

1. In deinem Projektordner:

   cd ~/picar-x/example
   sudo nano secret.py
   

2. Füge den Schlüssel wie folgt ein:

   # secret.py
   # Store secrets here. Never commit this file to Git.
   
   QWEN_API_KEY = "sk-xxx"
   

Mit Beispielcode testen

1. Öffne die Testdatei:

   cd ~/picar-x/example
   sudo nano 18.online_llm_test.py
   

2. Ersetze den Inhalt durch folgenden Code und aktualisiere model="xxx" (z. B. qwen-plus):

   from picarx.llm import Qwen
   from secret import QWEN_API_KEY
   
   INSTRUCTIONS = "You are a helpful assistant."
   WELCOME = "Hello, I am a helpful assistant. How can I help you?"
   
   llm = Qwen(
       api_key=QWEN_API_KEY,
       model="qwen-plus",
   )
   

3. Ausführen:

   sudo python3 18.online_llm_test.py
   

---

Grok (xAI)

Grok ist eine von xAI entwickelte konversationelle KI, gegründet vom Team um Elon Musk. Du kannst dich über die xAI API verbinden.

API-Schlüssel abrufen und speichern

1. Registriere dich unter xAI Cloud Console und lade Guthaben auf — ohne Guthaben funktioniert die API nicht.

2. Gehe zur Seite API Keys und klicke auf Create API key.

   

3. Vergib einen Namen für den Schlüssel und klicke Create API key.

   

4. Kopiere den generierten Schlüssel und bewahre ihn sicher auf.

   

5. In deinem Projektordner:

   cd ~/picar-x/example
   sudo nano secret.py
   

6. Füge den Schlüssel wie folgt ein:

   # secret.py
   # Store secrets here. Never commit this file to Git.
   
   GROK_API_KEY = "xai-xxx"
   

Verfügbare Modelle prüfen

Gehe zur Models-Seite in der xAI-Konsole. Hier siehst du alle verfügbaren Modelle und deren API-IDs — diese IDs werden im Code verwendet.

Mit Beispielcode testen

1. Öffne die Testdatei:

   cd ~/picar-x/example
   sudo nano 18.online_llm_test.py
   

2. Ersetze den Inhalt durch folgenden Code und passe model="xxx" an (z. B. grok-4-latest):

   from picarx.llm import Grok
   from secret import GROK_API_KEY
   
   INSTRUCTIONS = "You are a helpful assistant."
   WELCOME = "Hello, I am a helpful assistant. How can I help you?"
   
   llm = Grok(
       api_key=GROK_API_KEY,
       model="grok-4-latest",
   )
   

3. Ausführen:

   sudo python3 18.online_llm_test.py
   

---

DeepSeek

DeepSeek ist ein chinesischer LLM-Anbieter, der günstige und leistungsfähige Modelle anbietet.

API-Schlüssel abrufen und speichern

1. Melde dich bei Deepseek Platform an.

2. Wähle im Menü oben rechts API Keys → Create API Key.

   

3. Vergib einen Namen, klicke Create, dann kopiere den Schlüssel.

   

4. In deinem Projektordner:

   cd ~/picar-x/example
   sudo nano secret.py
   

5. Füge den Schlüssel hinzu:

   # secret.py
   DEEPSEEK_API_KEY = "sk-xxx"
   

Abrechnung aktivieren

Lade ein kleines Guthaben auf (z. B. ¥10 RMB), bevor du die API nutzt.

Verfügbare Modelle

Stand: 2025-09-12 bietet DeepSeek folgende Modelle an:

• deepseek-chat

• deepseek-reasoner

Mit Beispielcode testen

1. Öffne die Testdatei:

   cd ~/picar-x/example
   sudo nano 18.online_llm_test.py
   

2. Ersetze den Inhalt durch folgenden Code und aktualisiere model="xxx" (z. B. deepseek-chat):

   from picarx.llm import Deepseek
   from secret import DEEPSEEK_API_KEY
   
   INSTRUCTIONS = "You are a helpful assistant."
   WELCOME = "Hello, I am a helpful assistant. How can I help you?"
   
   llm = Deepseek(
       api_key=DEEPSEEK_API_KEY,
       model="deepseek-chat",
       max_messages=20,
   )
   

3. Ausführen:

   sudo python3 18.online_llm_test.py
   

---

Doubao

Doubao ist die KI-Modellplattform von ByteDance (Volcengine Ark).

API-Schlüssel abrufen und speichern

1. Melde dich bei Volcengine an.

2. Scrolle im linken Menü nach unten zu API Key Management → Create API Key.

   

3. Gib einen Namen ein und klicke auf Create.

   

4. Klicke auf das Schlüssel-Symbol, um den API-Schlüssel anzuzeigen, und kopiere ihn.

   

5. In deinem Projektordner:

   cd ~/picar-x/example
   sudo nano secret.py
   

6. Füge den Schlüssel hinzu:

   # secret.py
   DOUBAO_API_KEY = "xxx"
   

Ein Modell auswählen

1. Gehe zum Modell-Marktplatz und wähle ein Modell aus.

   

2. Wähle z. B. Doubao-seed-1.6 und klicke auf API 接入.

   

3. Wähle deinen API-Schlüssel und klicke auf Use API.

   

4. Klicke auf Enable Model.

   

5. Fahre mit der Maus über die Modell-ID, um sie zu kopieren.

   

Mit Beispielcode testen

1. Öffne die Testdatei:

   cd ~/picar-x/example
   sudo nano 18.online_llm_test.py
   

2. Ersetze den Inhalt durch folgenden Code und passe model="xxx" an (z. B. doubao-seed-1-6-250615):

   from picarx.llm import Doubao
   from secret import DOUBAO_API_KEY
   
   INSTRUCTIONS = "You are a helpful assistant."
   WELCOME = "Hello, I am a helpful assistant. How can I help you?"
   
   llm = Doubao(
       api_key=DOUBAO_API_KEY,
       model="doubao-seed-1-6-250615",
   )
   

3. Ausführen:

   sudo python3 18.online_llm_test.py
   

---

Allgemein

Dieses Projekt unterstützt die Verbindung zu mehreren LLM-Plattformen über eine einheitliche Schnittstelle. Integrierte Unterstützung besteht für:

• OpenAI (ChatGPT / GPT-4o, GPT-4, GPT-3.5)

• Gemini (Google AI Studio / Vertex AI)

• Grok (xAI)

• DeepSeek

• Qwen (通义千问)

• Doubao (豆包)

Zusätzlich kannst du dich mit jedem anderen LLM-Dienst verbinden, der das OpenAI-API-Format unterstützt. Dazu benötigst du lediglich einen API-Schlüssel und die passende base_url.

API-Schlüssel abrufen und speichern

1. Hole dir einen API-Schlüssel von der gewünschten Plattform (siehe jeweilige offizielle Dokumentation).

2. In deinem Projektordner, erstelle eine neue Datei:

   cd ~/picar-x/example
   nano secret.py
   

3. Füge deinen Schlüssel in secret.py ein:

   # secret.py
   API_KEY = "your_api_key_here"
   

Warnung

Bewahre deinen API-Schlüssel sicher auf. Lade secret.py nicht in öffentliche Repositories hoch.

Mit Beispielcode testen

1. Öffne die Testdatei:

   cd ~/picar-x/example
   sudo nano 18.online_llm_test.py
   

2. Ersetze den Inhalt einer Python-Datei durch folgenden Code und trage die korrekte base_url und model deines Anbieters ein:

   Bemerkung

   Zu base_url: Unterstützt wird das OpenAI API Format, sowie alle APIs, die kompatibel damit sind. Jeder Anbieter hat seine eigene base_url — siehe Dokumentation.

   from picarx.llm import LLM
   from secret import API_KEY
   
   INSTRUCTIONS = "You are a helpful assistant."
   WELCOME = "Hello, I am a helpful assistant. How can I help you?"
   
   llm = LLM(
       base_url="https://api.example.com/v1",  # trage die base_url deines Anbieters ein
       api_key=API_KEY,
       model="your-model-name-here",           # wähle ein Modell von deinem Anbieter
   )
   

3. Programm ausführen:

   python3 18.online_llm_test.py