.. note::

    Hallo, willkommen in der SunFounder Raspberry Pi & Arduino & ESP32 Enthusiasten-Community auf Facebook! Tauche gemeinsam mit anderen Enthusiasten tiefer in Raspberry Pi, Arduino und ESP32 ein.

    **Warum beitreten?**

    - **Expertenunterstützung**: Lösen Sie nach dem Kauf auftretende Probleme und technische Herausforderungen mit Hilfe unserer Community und unseres Teams.
    - **Lernen & Teilen**: Tauschen Sie Tipps und Tutorials aus, um Ihre Fähigkeiten zu verbessern.
    - **Exklusive Vorschauen**: Erhalten Sie frühzeitigen Zugriff auf neue Produktankündigungen und exklusive Einblicke.
    - **Spezielle Rabatte**: Profitieren Sie von exklusiven Rabatten auf unsere neuesten Produkte.
    - **Festliche Aktionen und Gewinnspiele**: Nehmen Sie an Verlosungen und Feiertagsaktionen teil.

    👉 Bereit, mit uns zu entdecken und zu kreieren? Klicken Sie auf [|link_sf_facebook|] und treten Sie noch heute bei!

.. _py_online_llm:

17. Verbindung zu Online-LLMs
================================

In dieser Lektion lernen Sie, wie Sie Ihren PiCrawler (oder Raspberry Pi) mit
verschiedenen **Online Large Language Models (LLMs)** verbinden.
Jeder Anbieter benötigt einen API-Schlüssel und bietet verschiedene Modelle
zur Auswahl.

Wir behandeln:

* Erstellen und sicheres Speichern Ihrer API-Schlüssel.
* Auswahl eines Modells, das Ihren Anforderungen entspricht.
* Ausführen unseres Beispielcodes, um mit den Modellen zu kommunizieren.

Gehen wir jeden Anbieter Schritt für Schritt durch.

----

Bevor Sie beginnen
------------------

Stellen Sie sicher, dass Sie Folgendes abgeschlossen haben:

* :ref:`install_all_modules` — Installieren Sie die Module ``robot-hat``,
  ``vilib``, ``picrawler`` und führen Sie dann das Skript ``i2samp.sh`` aus.


OpenAI
----------

OpenAI bietet leistungsstarke Modelle wie **GPT-4o** und **GPT-4.1**, die
sowohl für Text- als auch für Bildverarbeitungsaufgaben verwendet werden können.

So richten Sie es ein:

**API-Schlüssel erhalten und speichern**

#. Gehen Sie zu |link_openai_platform| und melden Sie sich an. Klicken Sie auf
   der Seite **API keys** auf **Create new secret key**.

   .. image:: img/llm_openai_create.png

#. Füllen Sie die Details aus (Owner, Name, Project und Berechtigungen falls
   erforderlich) und klicken Sie dann auf **Create secret key**.

   .. image:: img/llm_openai_create_confirm.png

#. Kopieren Sie den Schlüssel sofort nach der Erstellung — Sie können ihn später
   nicht mehr einsehen. Wenn Sie ihn verlieren, müssen Sie einen neuen erstellen.

   .. image:: img/llm_openai_copy.png

#. Erstellen Sie in Ihrem Projektordner (z. B. ``/picrawler/examples``) eine
   Datei namens ``secret.py``:

   .. code-block:: bash

       cd ~/picrawler/examples
       sudo nano secret.py

#. Fügen Sie Ihren Schlüssel wie folgt in die Datei ein:

   .. code-block:: python

       # secret.py
       # Geheimnisse hier speichern. Diese Datei niemals in Git committen.
       OPENAI_API_KEY = "sk-xxx"

**Abrechnung aktivieren und Modelle prüfen**

#. Gehen Sie vor der Verwendung des Schlüssels auf die Seite **Billing** in
   Ihrem OpenAI-Konto, fügen Sie Ihre Zahlungsdaten hinzu und laden Sie einen
   kleinen Betrag an Guthaben auf.

   .. image:: img/llm_openai_billing.png

#. Gehen Sie dann zur Seite **Limits**, um zu prüfen, welche Modelle für Ihr
   Konto verfügbar sind, und kopieren Sie die genaue Modell-ID zur Verwendung
   in Ihrem Code.

   .. image:: img/llm_openai_models.png

**Mit Beispielcode testen**

#. Beispielcode öffnen:

   .. code-block:: bash

       cd ~/picrawler/examples
       sudo nano 18.online_llm_test.py

#. Ersetzen Sie den Inhalt durch den folgenden Code und aktualisieren Sie
   ``model="xxx"`` auf das gewünschte Modell (z. B. ``gpt-4o``):

   .. code-block:: python

       from picrawler.llm import OpenAI
       from secret import OPENAI_API_KEY

       INSTRUCTIONS = "You are a helpful assistant."
       WELCOME = "Hello, I am a helpful assistant. How can I help you?"

       llm = OpenAI(
           api_key=OPENAI_API_KEY,
           model="gpt-4o",
       )

   Speichern und beenden (``Strg+X``, dann ``Y``, dann ``Enter``).

#. Führen Sie den Test aus:

   .. code-block:: bash

       sudo python3 18.online_llm_test.py


----

Gemini
------------------

Gemini ist Googles Familie von KI-Modellen. Es ist schnell und hervorragend
für allgemeine Aufgaben geeignet.

**API-Schlüssel erhalten und speichern**

#. Melden Sie sich bei |link_google_ai| an und gehen Sie zur API-Schlüssel-Seite.

   .. image:: img/llm_gemini_get.png

#. Klicken Sie oben rechts auf die Schaltfläche **Create API key**.

   .. image:: img/llm_gemini_create.png

#. Sie können einen Schlüssel für ein bestehendes oder ein neues Projekt erstellen.

   .. image:: img/llm_gemini_choose.png

#. Kopieren Sie den generierten API-Schlüssel.

   .. image:: img/llm_gemini_copy.png

#. In Ihrem Projektordner:

   .. code-block:: bash

       cd ~/picrawler/examples
       sudo nano secret.py

#. Fügen Sie den Schlüssel ein:

   .. code-block:: python

        # secret.py
        # Geheimnisse hier speichern. Diese Datei niemals in Git committen.
       GEMINI_API_KEY = "AIxxx"

**Verfügbare Modelle prüfen**

Besuchen Sie die offizielle |link_gemini_model|-Seite. Hier sehen Sie die
Liste der Modelle, ihre genauen API-IDs und wofür jedes Modell optimiert ist.

   .. image:: img/llm_gemini_model.png

**Mit Beispielcode testen**

#. Testdatei öffnen:

   .. code-block:: bash

       cd ~/picrawler/examples
       sudo nano 18.online_llm_test.py

#. Ersetzen Sie den Inhalt durch den folgenden Code und aktualisieren Sie
   ``model="xxx"`` auf das gewünschte Modell (z. B. ``gemini-2.5-flash``):

   .. code-block:: python

       from picrawler.llm import Gemini
       from secret import GEMINI_API_KEY

       INSTRUCTIONS = "You are a helpful assistant."
       WELCOME = "Hello, I am a helpful assistant. How can I help you?"

       llm = Gemini(
           api_key=GEMINI_API_KEY,
           model="gemini-2.5-flash",
       )

#. Speichern und ausführen:

   .. code-block:: bash

       sudo python3 18.online_llm_test.py

----

Qwen
------------------

Qwen ist eine Familie von Large Language und multimodalen Modellen, die von
Alibaba Cloud bereitgestellt werden.
Diese Modelle unterstützen Textgenerierung, Reasoning und multimodales
Verständnis (wie Bildanalyse).

**API-Schlüssel erhalten**

Um Qwen-Modelle aufzurufen, benötigen Sie einen **API-Schlüssel**.
Die meisten internationalen Benutzer sollten die **DashScope International
(Model Studio)**-Konsole verwenden.
Benutzer in Festlandchina können stattdessen die **Bailian (百炼)**-Konsole
verwenden.

* **Für internationale Benutzer**

  #. Besuchen Sie die offizielle |link_qwen_inter|-Seite auf **Alibaba Cloud**.
  #. Melden Sie sich an oder erstellen Sie ein **Alibaba Cloud**-Konto.
  #. Navigieren Sie zu **Model Studio** (wählen Sie die Region Singapur oder Peking).

      * Wenn oben auf der Seite die Aufforderung „Jetzt aktivieren" erscheint,
        klicken Sie darauf, um Model Studio zu aktivieren und das kostenlose
        Kontingent zu erhalten (nur Singapur).
      * Die Aktivierung ist kostenlos — Ihnen werden erst Kosten berechnet,
        nachdem Ihr kostenloses Kontingent aufgebraucht ist.
      * Wenn keine Aktivierungsaufforderung erscheint, ist der Dienst bereits aktiv.

  #. Gehen Sie zur Seite **Key Management**. Klicken Sie auf der Registerkarte
     **API Key** auf **Create API Key**.
  #. Kopieren Sie nach der Erstellung Ihren API-Schlüssel und bewahren Sie ihn
     sicher auf.

    .. image:: img/llm_qwen_api_key.png
        :width: 800

  .. note::
     Benutzer in Hongkong, Macau und Taiwan sollten ebenfalls die Option
     **International (Model Studio)** wählen.

* **Für Benutzer in Festlandchina**

  Wenn Sie sich in Festlandchina befinden, können Sie stattdessen die
  **Alibaba Cloud Bailian (百炼)**-Konsole verwenden:

  #. Melden Sie sich bei |link_aliyun| (Bailian-Konsole) an und schließen Sie
     die Kontoverifizierung ab.
  #. Wählen Sie **Create API Key**. Wenn Sie aufgefordert werden, dass
     Modelldienste nicht aktiviert sind, klicken Sie auf **Activate**, stimmen
     Sie den Bedingungen zu und fordern Sie Ihr kostenloses Kontingent an.
     Nach der Aktivierung ist die Schaltfläche **Create API Key** verfügbar.

     .. image:: img/llm_qwen_aliyun_create.png

  #. Klicken Sie erneut auf **Create API Key**, überprüfen Sie Ihr Konto und
     klicken Sie dann auf **Confirm**.

     .. image:: img/llm_qwen_aliyun_confirm.png

  #. Kopieren Sie nach der Erstellung Ihren API-Schlüssel.

     .. image:: img/llm_qwen_aliyun_copy.png

**API-Schlüssel speichern**

#. In Ihrem Projektordner:

   .. code-block:: bash

       cd ~/picrawler/examples
       sudo nano secret.py

#. Fügen Sie Ihren Schlüssel wie folgt ein:

   .. code-block:: python

        # secret.py
        # Geheimnisse hier speichern. Diese Datei niemals in Git committen.

        QWEN_API_KEY = "sk-xxx"

**Mit Beispielcode testen**

#. Testdatei öffnen:

   .. code-block:: bash

       cd ~/picrawler/examples
       sudo nano 18.online_llm_test.py

#. Ersetzen Sie den Inhalt durch den folgenden Code und aktualisieren Sie
   ``model="xxx"`` auf das gewünschte Modell (z. B. ``qwen-plus``):

   .. code-block:: python

      from picrawler.llm import Qwen
      from secret import QWEN_API_KEY

      INSTRUCTIONS = "You are a helpful assistant."
      WELCOME = "Hello, I am a helpful assistant. How can I help you?"

      llm = Qwen(
          api_key=QWEN_API_KEY,
          model="qwen-plus",
      )

#. Ausführen mit:

   .. code-block:: bash

       sudo python3 18.online_llm_test.py

Grok (xAI)
------------------
Grok ist xAIs konversationelle KI, entwickelt vom Team um Elon Musk. Sie können
sich über die xAI-API damit verbinden.

**API-Schlüssel erhalten und speichern**

#. Erstellen Sie hier ein Konto: |link_grok_ai|. Laden Sie zuerst etwas Guthaben
   auf — sonst funktioniert die API nicht.

#. Gehen Sie zur API-Schlüssel-Seite und klicken Sie auf **Create API key**.

   .. image:: img/llm_grok_create.png

#. Geben Sie einen Namen für den Schlüssel ein und klicken Sie auf
   **Create API key**.

   .. image:: img/llm_grok_name.png

#. Kopieren Sie den generierten Schlüssel und bewahren Sie ihn sicher auf.

   .. image:: img/llm_grok_copy.png

#. In Ihrem Projektordner:

   .. code-block:: bash

       cd ~/picrawler/examples
       sudo nano secret.py

#. Fügen Sie Ihren Schlüssel wie folgt ein:

   .. code-block:: python

        # secret.py
        # Geheimnisse hier speichern. Diese Datei niemals in Git committen.

        GROK_API_KEY = "xai-xxx"

**Verfügbare Modelle prüfen**

Gehen Sie zur Modellseite in der xAI-Konsole. Hier sehen Sie alle für Ihr Team
verfügbaren Modelle mit ihren genauen API-IDs — verwenden Sie diese IDs in
Ihrem Code.

   .. image:: img/llm_grok_model.png

**Mit Beispielcode testen**

#. Testdatei öffnen:

   .. code-block:: bash

       cd ~/picrawler/examples
       sudo nano 18.online_llm_test.py

#. Ersetzen Sie den Inhalt durch den folgenden Code und aktualisieren Sie
   ``model="xxx"`` auf das gewünschte Modell (z. B. ``grok-4-latest``):

   .. code-block:: python

       from picrawler.llm import Grok
       from secret import GROK_API_KEY

       INSTRUCTIONS = "You are a helpful assistant."
       WELCOME = "Hello, I am a helpful assistant. How can I help you?"

       llm = Grok(
           api_key=GROK_API_KEY,
           model="grok-4-latest",
       )

#. Ausführen mit:

   .. code-block:: bash

       sudo python3 18.online_llm_test.py

----

DeepSeek
------------------

DeepSeek ist ein chinesischer LLM-Anbieter, der erschwingliche und leistungsfähige
Modelle anbietet.

**API-Schlüssel erhalten und speichern**

#. Melden Sie sich bei |link_deepseek| an.

#. Wählen Sie im Menü oben rechts **API Keys → Create API Key**.

   .. image:: img/llm_deepseek_create.png

#. Geben Sie einen Namen ein, klicken Sie auf **Create** und kopieren Sie dann
   den Schlüssel.

   .. image:: img/llm_deepseek_copy.png

#. In Ihrem Projektordner:

   .. code-block:: bash

       cd ~/picrawler/examples
       sudo nano secret.py

#. Fügen Sie Ihren Schlüssel hinzu:

   .. code-block:: python

       # secret.py
       DEEPSEEK_API_KEY = "sk-xxx"

**Abrechnung aktivieren**

Sie müssen zuerst Ihr Konto aufladen. Beginnen Sie mit einem kleinen Betrag
(wie ¥10 RMB).

   .. image:: img/llm_deepseek_chognzhi.png

**Verfügbare Modelle**

Zum Zeitpunkt der Erstellung (2025-09-12) bietet DeepSeek:

* ``deepseek-chat``
* ``deepseek-reasoner``

**Mit Beispielcode testen**

#. Testdatei öffnen:

   .. code-block:: bash

       cd ~/picrawler/examples
       sudo nano 18.online_llm_test.py

#. Ersetzen Sie den Inhalt durch den folgenden Code und aktualisieren Sie
   ``model="xxx"`` auf das gewünschte Modell (z. B. ``deepseek-chat``):

   .. code-block:: python

       from picrawler.llm import Deepseek
       from secret import DEEPSEEK_API_KEY

       INSTRUCTIONS = "You are a helpful assistant."
       WELCOME = "Hello, I am a helpful assistant. How can I help you?"

       llm = Deepseek(
           api_key=DEEPSEEK_API_KEY,
           model="deepseek-chat",
           max_messages=20,
       )

#. Ausführen:

   .. code-block:: bash

       sudo python3 18.online_llm_test.py

----

Doubao
------------------
Doubao ist die KI-Modellplattform von ByteDance (Volcengine Ark).

**API-Schlüssel erhalten und speichern**

#. Melden Sie sich bei |link_doubao| an.

#. Scrollen Sie im linken Menü nach unten zu **API Key Management → Create API Key**.

   .. image:: img/llm_doubao_create.png

#. Wählen Sie einen Namen und klicken Sie auf **Create**.

   .. image:: img/llm_doubao_name.png

#. Klicken Sie auf das Symbol **Show API Key** und kopieren Sie ihn.

   .. image:: img/llm_doubao_copy.png

#. In Ihrem Projektordner:

   .. code-block:: bash

       cd ~/picrawler/examples
       sudo nano secret.py

#. Fügen Sie Ihren Schlüssel hinzu:

   .. code-block:: python

       # secret.py
       DOUBAO_API_KEY = "xxx"

**Modell auswählen**

#. Gehen Sie zum Modell-Marktplatz und wählen Sie ein Modell aus.

   .. image:: img/llm_doubao_model_select.png

#. Wählen Sie z. B. **Doubao-seed-1.6** und klicken Sie dann auf **API 接入**.

   .. image:: img/llm_doubao_model.png

#. Wählen Sie Ihren API-Schlüssel und klicken Sie auf **Use API**.

   .. image:: img/llm_doubao_use_api.png

#. Klicken Sie auf **Enable Model**.

   .. image:: img/llm_doubao_kaitong.png

#. Fahren Sie über die Modell-ID, um sie zu kopieren.

   .. image:: img/llm_doubao_copy_id.png

**Mit Beispielcode testen**

#. Testdatei öffnen:

   .. code-block:: bash

       cd ~/picrawler/examples
       sudo nano 18.online_llm_test.py

#. Ersetzen Sie den Inhalt durch den folgenden Code und aktualisieren Sie
   ``model="xxx"`` auf das gewünschte Modell (z. B. ``doubao-seed-1-6-250615``):

   .. code-block:: python

       from picrawler.llm import Doubao
       from secret import DOUBAO_API_KEY

       INSTRUCTIONS = "You are a helpful assistant."
       WELCOME = "Hello, I am a helpful assistant. How can I help you?"

       llm = Doubao(
           api_key=DOUBAO_API_KEY,
           model="doubao-seed-1-6-250615",
       )

#. Ausführen mit:

   .. code-block:: bash

       sudo python3 18.online_llm_test.py


Allgemein
--------------

Dieses Projekt unterstützt die Verbindung zu mehreren LLM-Plattformen über eine
einheitliche Schnittstelle.
Wir haben integrierte Kompatibilität mit:

* **OpenAI** (ChatGPT / GPT-4o, GPT-4, GPT-3.5)
* **Gemini** (Google AI Studio / Vertex AI)
* **Grok** (xAI)
* **DeepSeek**
* **Qwen (通义千问)**
* **Doubao (豆包)**

Darüber hinaus können Sie sich mit **jedem anderen LLM-Dienst verbinden, der
mit dem OpenAI-API-Format kompatibel ist**.
Für diese Plattformen müssen Sie manuell Ihren **API-Schlüssel** und die
korrekte **base_url** beschaffen.

**API-Schlüssel erhalten und speichern**

#. Besorgen Sie sich einen **API-Schlüssel** von der gewünschten Plattform.
   (Siehe die offizielle Konsole der jeweiligen Plattform für Details.)

#. Erstellen Sie in Ihrem Projektordner eine neue Datei:

   .. code-block:: bash

      cd ~/picrawler/examples
      nano secret.py

#. Fügen Sie Ihren Schlüssel in ``secret.py`` ein:

   .. code-block:: python

      # secret.py
      API_KEY = "your_api_key_here"

.. warning::

   Halten Sie Ihren API-Schlüssel privat. Laden Sie ``secret.py`` nicht in
   öffentliche Repositories hoch.

**Mit Beispielcode testen**

#. Testdatei öffnen:

   .. code-block:: bash

      cd ~/picrawler/examples
      sudo nano 18.online_llm_test.py

#. Ersetzen Sie den Inhalt einer Python-Datei durch das folgende Beispiel und
   geben Sie die korrekte ``base_url`` und das ``model`` für Ihre Plattform ein:

   .. note::

      Über ``base_url``:
      Wir unterstützen das **OpenAI-API-Format** sowie jede API, die damit
      **kompatibel** ist.
      Jeder Anbieter hat seine eigene ``base_url``. Bitte prüfen Sie deren
      Dokumentation.

   .. code-block:: python

      from picrawler.llm import LLM
      from secret import API_KEY

      INSTRUCTIONS = "You are a helpful assistant."
      WELCOME = "Hello, I am a helpful assistant. How can I help you?"

      llm = LLM(
          base_url="https://api.example.com/v1",  # Geben Sie die base_url Ihres Anbieters ein
          api_key=API_KEY,
          model="your-model-name-here",           # Wählen Sie ein Modell Ihres Anbieters
      )


#. Führen Sie das Programm aus:

   .. code-block:: bash

      python3 18.online_llm_test.py