Bemerkung

Hallo, willkommen in der SunFounder Raspberry Pi & Arduino & ESP32 Enthusiasts Community auf Facebook! Tauchen Sie gemeinsam mit anderen Enthusiasten tiefer in Raspberry Pi, Arduino und ESP32 ein.

Warum mitmachen?

• Experten-Support : Lösen Sie After-Sales-Probleme und technische Herausforderungen mit Hilfe unserer Community und unseres Teams.

• Lernen & Teilen : Tauschen Sie Tipps und Tutorials aus, um Ihre Fähigkeiten zu verbessern.

• Exklusive Vorschauen : Erhalten Sie frühzeitigen Zugriff auf neue Produktankündigungen und exklusive Einblicke.

• Sonderrabatte : Profitieren Sie von exklusiven Rabatten auf unsere neuesten Produkte.

• Festliche Aktionen und Gewinnspiele : Nehmen Sie an Gewinnspielen und saisonalen Aktionen teil.

👉 Bereit, mit uns zu entdecken und zu erschaffen? Klicken Sie auf [here] und treten Sie noch heute bei!

5. Verbindung zu Online-LLMs herstellen

In dieser Lektion lernen wir, wie Sie Ihr Fusion HAT+ ( oder Raspberry Pi ) mit verschiedenen Online Large Language Models ( LLMs ) verbinden. Jeder Anbieter benötigt einen API-Schlüssel und bietet unterschiedliche Modelle zur Auswahl an.

Wir behandeln, wie Sie:

• Ihre API-Schlüssel sicher erstellen und speichern.

• Ein Modell auswählen, das zu Ihren Anforderungen passt.

• Unser Beispielprogramm ausführen, um mit den Modellen zu chatten.

Gehen wir Anbieter für Anbieter Schritt für Schritt vor.

---

OpenAI

OpenAI bietet leistungsstarke Modelle wie GPT-4o und GPT-4.1 , die sowohl für Text- als auch für Vision-Aufgaben verwendet werden können.

So richten Sie es ein:

API-Schlüssel abrufen und speichern

1. Gehen Sie zu OpenAI Platform und melden Sie sich an. Klicken Sie auf der Seite API keys auf Create new secret key .

   

2. Füllen Sie die Details aus ( Owner, Name, Project und ggf. Berechtigungen ) und klicken Sie dann auf Create secret key .

   

3. Sobald der Schlüssel erstellt ist, kopieren Sie ihn sofort — Sie können ihn später nicht mehr anzeigen. Wenn Sie ihn verlieren, müssen Sie einen neuen erzeugen.

   

4. Erstellen Sie in Ihrem Projektordner ( zum Beispiel: / ) eine Datei mit dem Namen secret.py :

   cd ~/fusion-hat/examples
   sudo nano secret.py
   

5. Fügen Sie Ihren Schlüssel so in die Datei ein:

   # secret.py
   # Store secrets here. Never commit this file to Git.
   OPENAI_API_KEY = "sk-xxx"
   

Abrechnung aktivieren und Modelle prüfen

1. Bevor Sie den Schlüssel verwenden, gehen Sie in Ihrem OpenAI-Konto zur Seite Billing , hinterlegen Sie Ihre Zahlungsdaten und laden Sie ein kleines Guthaben auf.

   

2. Gehen Sie anschließend zur Seite Limits , um zu prüfen, welche Modelle für Ihr Konto verfügbar sind, und kopieren Sie die exakte Modell-ID für Ihren Code.

   

Mit Beispielcode testen

1. Öffnen Sie unseren Beispielcode:

   cd ~/fusion-hat/examples
   sudo nano llm_openai.py
   

2. Ersetzen Sie den Inhalt durch den Code unten und aktualisieren Sie model="xxx" auf das gewünschte Modell ( zum Beispiel gpt-4o ):

   from fusion_hat.llm import OpenAI
   from secret import OPENAI_API_KEY
   
   INSTRUCTIONS = "You are a helpful assistant."
   WELCOME = "Hello, I am a helpful assistant. How can I help you?"
   
   llm = OpenAI(
      api_key=OPENAI_API_KEY,
      model="gpt-4o",
   )
   

   Speichern und beenden ( Ctrl+X , dann Y , dann Enter ).

3. Führen Sie abschließend den Test aus:

   sudo python3 llm_openai.py
   

---

Gemini

Gemini ist Googles Familie von KI-Modellen. Es ist schnell und eignet sich hervorragend für allgemeine Aufgaben.

API-Schlüssel abrufen und speichern

1. Melden Sie sich bei Google AI Studio an und gehen Sie dann zur Seite „API Keys“.

   

2. Klicken Sie oben rechts auf Create API key .

   

3. Sie können einen Schlüssel für ein bestehendes Projekt oder ein neues erstellen.

   

4. Kopieren Sie den generierten API-Schlüssel.

   

5. In Ihrem Projektordner:

   cd ~/fusion-hat/examples
   sudo nano secret.py
   

6. Fügen Sie den Schlüssel ein:

    # secret.py
    # Store secrets here. Never commit this file to Git.
   GEMINI_API_KEY = "AIxxx"
   

Verfügbare Modelle prüfen

Gehen Sie zur offiziellen Seite Gemini Models. Dort sehen Sie die Liste der Modelle, ihre exakten API-IDs und für welchen Anwendungsfall jedes Modell optimiert ist.

Mit Beispielcode testen

1. Öffnen Sie die Testdatei:

   cd ~/fusion-hat/examples
   sudo nano llm_gemini.py
   

2. Ersetzen Sie den Inhalt durch den Code unten und aktualisieren Sie model="xxx" auf das gewünschte Modell ( zum Beispiel gemini-2.5-flash ):

   from fusion_hat.llm import Gemini
   from secret import GEMINI_API_KEY
   
   INSTRUCTIONS = "You are a helpful assistant."
   WELCOME = "Hello, I am a helpful assistant. How can I help you?"
   
   llm = Gemini(
      api_key=GEMINI_API_KEY,
      model="gemini-2.5-flash",
   )
   

3. Speichern und ausführen:

   sudo python3 llm_gemini.py
   

---

Qwen

Qwen ist eine Familie großer Sprach- und multimodaler Modelle von Alibaba Cloud. Diese Modelle unterstützen Textgenerierung, Schlussfolgern und multimodales Verständnis ( z. B. Bildanalyse ).

API-Schlüssel erhalten

Um Qwen-Modelle aufzurufen, benötigen Sie einen API-Schlüssel . Die meisten internationalen Nutzer sollten die Konsole DashScope International ( Model Studio ) verwenden. Nutzer in Festlandchina können stattdessen die Konsole Bailian ( 百炼 ) verwenden.

• Für internationale Nutzer

  1. Gehen Sie zur offiziellen Seite Get API Key auf Alibaba Cloud .

  2. Melden Sie sich an oder erstellen Sie ein Alibaba Cloud -Konto.

  3. Navigieren Sie zu Model Studio ( wählen Sie die Region Singapur oder Peking ).

     • Wenn oben auf der Seite eine Aufforderung „Activate Now“ erscheint, klicken Sie darauf, um Model Studio zu aktivieren und das kostenlose Kontingent zu erhalten ( nur Singapur ).

     • Die Aktivierung ist kostenlos — Ihnen werden erst Kosten berechnet, nachdem Ihr kostenloses Kontingent aufgebraucht ist.

     • Wenn keine Aktivierungsaufforderung erscheint, ist der Dienst bereits aktiv.

  4. Gehen Sie zur Seite Key Management . Klicken Sie im Tab API Key auf Create API Key .

  5. Nach dem Erstellen kopieren Sie Ihren API-Schlüssel und bewahren Sie ihn sicher auf.

  

  Bemerkung

  Nutzer in Hongkong, Macau und Taiwan sollten ebenfalls die Option International ( Model Studio ) wählen.

• Für Nutzer in Festlandchina

  Wenn Sie sich in Festlandchina befinden, können Sie stattdessen die Konsole Alibaba Cloud Bailian ( 百炼 ) verwenden:

  1. Melden Sie sich bei Bailian console ( Bailian-Konsole ) an und schließen Sie die Kontoverifizierung ab.

  2. Wählen Sie Create API Key . Wenn Sie darauf hingewiesen werden, dass Modelldienste nicht aktiviert sind, klicken Sie auf Activate , stimmen Sie den Bedingungen zu und fordern Sie Ihr kostenloses Kontingent an. Nach der Aktivierung wird die Schaltfläche Create API Key verfügbar.

     

  3. Klicken Sie erneut auf Create API Key , prüfen Sie Ihr Konto und klicken Sie dann auf Confirm .

     

  4. Sobald er erstellt ist, kopieren Sie Ihren API-Schlüssel.

     

API-Schlüssel speichern

1. In Ihrem Projektordner:

   cd ~/fusion-hat/examples
   sudo nano secret.py
   

2. Fügen Sie Ihren Schlüssel so ein:

   # secret.py
   # Store secrets here. Never commit this file to Git.
   
   QWEN_API_KEY = "sk-xxx"
   

Mit Beispielcode testen

1. Öffnen Sie die Testdatei:

   cd ~/fusion-hat/examples
   sudo nano llm_qwen.py
   

2. Ersetzen Sie den Inhalt durch den Code unten und aktualisieren Sie model="xxx" auf das gewünschte Modell ( zum Beispiel qwen-plus ):

   from fusion_hat.llm import Qwen
   from secret import QWEN_API_KEY
   
   INSTRUCTIONS = "You are a helpful assistant."
   WELCOME = "Hello, I am a helpful assistant. How can I help you?"
   
   llm = Qwen(
      api_key=QWEN_API_KEY,
      model="qwen-plus",
   )
   

3. Ausführen mit:

   sudo python3 llm_qwen.py
   

Grok ( xAI )

Grok ist die konversationelle KI von xAI, entwickelt vom Team von Elon Musk. Sie können sie über die xAI-API anbinden.

API-Schlüssel abrufen und speichern

1. Registrieren Sie sich hier: xAI Cloud Console. Laden Sie zuerst Guthaben auf Ihr Konto — sonst funktioniert die API nicht.

2. Gehen Sie zur Seite „API Keys“ und klicken Sie auf Create API key .

   

3. Geben Sie einen Namen für den Schlüssel ein und klicken Sie dann auf Create API key .

   

4. Kopieren Sie den generierten Schlüssel und bewahren Sie ihn sicher auf.

   

5. In Ihrem Projektordner:

   cd ~/fusion-hat/examples
   sudo nano secret.py
   

6. Fügen Sie Ihren Schlüssel so ein:

   # secret.py
   # Store secrets here. Never commit this file to Git.
   
   GROK_API_KEY = "xai-xxx"
   

Verfügbare Modelle prüfen

Gehen Sie in der xAI-Konsole zur Seite „Models“. Dort sehen Sie alle für Ihr Team verfügbaren Modelle zusammen mit ihren exakten API-IDs — verwenden Sie diese IDs in Ihrem Code.

Mit Beispielcode testen

1. Öffnen Sie die Testdatei:

   cd ~/fusion-hat/examples
   sudo nano llm_grok.py
   

2. Ersetzen Sie den Inhalt durch den Code unten und aktualisieren Sie model="xxx" auf das gewünschte Modell ( zum Beispiel grok-4-latest ):

   from fusion_hat.llm import Grok
   from secret import GROK_API_KEY
   
   INSTRUCTIONS = "You are a helpful assistant."
   WELCOME = "Hello, I am a helpful assistant. How can I help you?"
   
   llm = Grok(
      api_key=GROK_API_KEY,
      model="grok-4-latest",
   )
   

3. Ausführen mit:

   sudo python3 llm_grok.py
   

---

DeepSeek

DeepSeek ist ein chinesischer LLM-Anbieter, der günstige und leistungsfähige Modelle anbietet.

API-Schlüssel abrufen und speichern

1. Melden Sie sich bei Deepseek Platform an.

2. Wählen Sie im Menü oben rechts API Keys → Create API Key .

   

3. Geben Sie einen Namen ein, klicken Sie auf Create und kopieren Sie dann den Schlüssel.

   

4. In Ihrem Projektordner:

   cd ~/fusion-hat/examples
   sudo nano secret.py
   

5. Fügen Sie Ihren Schlüssel hinzu:

   # secret.py
   DEEPSEEK_API_KEY = "sk-xxx"
   

Abrechnung aktivieren

Sie müssen Ihr Konto zuerst aufladen. Beginnen Sie mit einem kleinen Betrag ( z. B. ¥10 RMB ).

Verfügbare Modelle

Zum Zeitpunkt der Erstellung ( 2025-09-12 ) bietet DeepSeek an:

• deepseek-chat

• deepseek-reasoner

Mit Beispielcode testen

1. Öffnen Sie die Testdatei:

   cd ~/fusion-hat/examples
   sudo nano llm_deepseek.py
   

2. Ersetzen Sie den Inhalt durch den Code unten und aktualisieren Sie model="xxx" auf das gewünschte Modell ( zum Beispiel deepseek-chat ):

   from fusion_hat.llm import Deepseek
   from secret import DEEPSEEK_API_KEY
   
   INSTRUCTIONS = "You are a helpful assistant."
   WELCOME = "Hello, I am a helpful assistant. How can I help you?"
   
   llm = Deepseek(
      api_key=DEEPSEEK_API_KEY,
      model="deepseek-chat",
      max_messages=20,
   )
   

3. Ausführen:

   sudo python3 llm_deepseek.py
   

---

Doubao

Doubao ist ByteDances KI-Modellplattform ( Volcengine Ark ).

API-Schlüssel abrufen und speichern

1. Melden Sie sich bei Volcengine an.

2. Scrollen Sie im linken Menü nach unten zu API Key Management → Create API Key .

   

3. Wählen Sie einen Namen und klicken Sie auf Create .

   

4. Klicken Sie auf das Symbol Show API Key und kopieren Sie den Schlüssel.

   

5. In Ihrem Projektordner:

   cd ~/fusion-hat/examples
   sudo nano secret.py
   

6. Fügen Sie Ihren Schlüssel hinzu:

   # secret.py
   DOUBAO_API_KEY = "xxx"
   

Ein Modell auswählen

1. Gehen Sie zum Modell-Marktplatz und wählen Sie ein Modell aus.

   

2. Wählen Sie zum Beispiel Doubao-seed-1.6 und klicken Sie dann auf API 接入 .

   

3. Wählen Sie Ihren API-Schlüssel aus und klicken Sie auf Use API .

   

4. Klicken Sie auf Enable Model .

   

5. Fahren Sie mit der Maus über die Modell-ID, um sie zu kopieren.

   

Mit Beispielcode testen

1. Öffnen Sie die Testdatei:

   cd ~/fusion-hat/examples
   sudo nano llm_doubao.py
   

2. Ersetzen Sie den Inhalt durch den Code unten und aktualisieren Sie model="xxx" auf das gewünschte Modell ( zum Beispiel doubao-seed-1-6-250615 ):

   from fusion_hat.llm import Doubao
   from secret import DOUBAO_API_KEY
   
   INSTRUCTIONS = "You are a helpful assistant."
   WELCOME = "Hello, I am a helpful assistant. How can I help you?"
   
   llm = Doubao(
      api_key=DOUBAO_API_KEY,
      model="doubao-seed-1-6-250615",
   )
   

3. Ausführen mit:

   sudo python3 llm_doubao.py
   

Allgemein

Dieses Projekt unterstützt die Verbindung zu mehreren LLM-Plattformen über eine einheitliche Schnittstelle. Wir bieten integrierte Kompatibilität mit:

• OpenAI ( ChatGPT / GPT-4o, GPT-4, GPT-3.5 )

• Gemini ( Google AI Studio / Vertex AI )

• Grok ( xAI )

• DeepSeek

• Qwen ( 通义千问 )

• Doubao ( 豆包 )

Außerdem können Sie jeden anderen LLM-Dienst verbinden, der mit dem OpenAI-API-Format kompatibel ist . Für diese Plattformen müssen Sie Ihren API-Schlüssel und die korrekte base_url manuell beschaffen.

API-Schlüssel abrufen und speichern

1. Besorgen Sie sich einen API-Schlüssel von der Plattform, die Sie verwenden möchten. ( Details finden Sie in der offiziellen Konsole des jeweiligen Anbieters. )

2. Erstellen Sie in Ihrem Projektordner eine neue Datei:

   cd ~/fusion-hat/examples/
   nano secret.py
   

3. Fügen Sie Ihren Schlüssel in secret.py ein:

   # secret.py
   API_KEY = "your_api_key_here"
   

Warnung

Halten Sie Ihren API-Schlüssel privat. Laden Sie secret.py nicht in öffentliche Repositories hoch.

Mit Beispielcode testen

1. Öffnen Sie die Testdatei:

   cd ~/fusion-hat/examples/
   sudo nano llm_others.py
   

2. Ersetzen Sie den Inhalt einer Python-Datei durch das folgende Beispiel und tragen Sie die korrekte base_url und model für Ihre Plattform ein:

   Bemerkung

   Zu base_url : Wir unterstützen das OpenAI-API-Format sowie jede API, die damit kompatibel ist. Jeder Anbieter hat seine eigene base_url. Bitte prüfen Sie die Dokumentation des Anbieters.

   from fusion_hat.llm import LLM
   from secret import API_KEY
   
   INSTRUCTIONS = "You are a helpful assistant."
   WELCOME = "Hello, I am a helpful assistant. How can I help you?"
   
   llm = LLM(
      base_url = f"",
      api_key=API_KEY,
      model="",
   )
   

3. Führen Sie das Programm aus:

   sudo python3 llm_others.py