Ollama | Machine Learning Blog

Künstliche Intelligenz zieht immer stärker in den Alltag ein – und dank neuer Entwicklungen wie gpt-oss von OpenAI ist sie längst nicht mehr nur den großen Rechenzentren und Online-Diensten vorbehalten. Wer sich schon einmal gefragt hat, wie es wäre, ein leistungsstarkes Sprachmodell direkt auf dem eigenen Computer laufen zu lassen, kann das jetzt ganz einfach ausprobieren. Dabei werden keine Daten an externe Server geschickt, die KI bleibt komplett privat und funktioniert sogar ohne Internetverbindung.

Möglich wird das durch das Zusammenspiel von gpt-oss und der Plattform Ollama. Über gpt-oss als Modell habe ich bereits im folgenden Blogpost geschrieben: OpenAIs neues lokales Sprachmodell: gpt-oss – Revolution auf dem eigenen Computer In diesem Beitrag zeigt eine Schritt-für-Schritt-Anleitung, wie gpt-oss im Handumdrehen auf dem eigenen Rechner installiert und genutzt werden kann – ganz ohne komplizierte Vorkenntnisse oder technische Hürden.

In den letzten Jahren hat sich die künstliche Intelligenz (KI) rasant entwickelt. KI-Modelle werden heute in immer mehr Bereichen eingesetzt, von der Bilderkennung bis hin zur Sprachverarbeitung.

Traditionell werden KI-Modelle in der Cloud ausgeführt. Das hat den Vorteil, dass sie leicht zugänglich und skalierbar sind. Allerdings gibt es auch einige Nachteile, wie etwa die Abhängigkeit von einem Internetzugang und die Möglichkeit, dass die Daten von Dritten eingesehen werden können.

Eine Alternative zur Cloud-basierten Ausführung ist die lokale Ausführung von KI-Modellen. Bei der lokalen Ausführung wird das KI-Modell auf dem eigenen Rechner installiert und ausgeführt. Das hat einige Vorteile, wie etwa die volle Kontrolle über die Daten und die Möglichkeit, die Leistung des Modells zu optimieren.

Schlagwort: Ollama

Tutorial: OpenAIs gpt-oss lokal nutzen, Schritt für Schritt zum eigenen KI-Chatbot mit Ollama

Lokale KI-Modelle: Vorteile, Nachteile und wie man sie verwendet