Die Ära, in der künstliche Intelligenz leistungsstarke Server und eine ständige Internetverbindung erforderte, könnte dem Ende zuneigen. Der Startup PrismML hat eine Technologie vorgestellt, die das Landschaftsbild der Mobilindustrie verändern könnte: Sie hat das Modell Bonsai 27B entwickelt, das direkt auf dem Smartphone läuft und dabei den Cloud-Giganten in seinen Fähigkeiten nichts nachsteht.

Der Kern der Innovation ist das offene neuronale Netz Qwen3.6 27B des chinesischen Unternehmens Alibaba. In seiner „nativen' Form wiegt es etwa 54 GB, was den Start auf Consumer-Gadgets unmöglich macht. Die Ingenieure von PrismML wandten eine Methode zur radikalen Vereinfachung mathematischer Werte an: Anstelle der Standard-16-Bit-Codierung wird jedes Gewicht innerhalb des neuronalen Netzes nun nur noch mit 1–2 Bits gespeichert. Die Patente für diese Methode gehören dem California Institute of Technology (Caltech) und sind exklusiv für den Startup lizenziert, der im März 16,25 Millionen Dollar an Investitionen gesammelt hat.

Technologischer Durchbruch und sein Preis

Das Unternehmen hat zwei kostenlose Versionen des Modells unter der Apache 2.0-Lizenz veröffentlicht. Laut Entwicklern ermöglicht diese extreme Komprimierung dem Modell, 10–15-mal weniger Arbeitsspeicher zu verbrauchen. Gleichzeitig steigt die Geschwindigkeit der Antwortgenerierung um das 6- bis 8-fache, und der Energieverbrauch sinkt um das 3- bis 6-fache.

Allerdings verzeiht die Physik keine Wunder, und die Technologie hat ihre Kompromisse. Die extreme Komprimierung führt zu einem Verlust von mehreren Prozentpunkten der Gesamteffizienz. Beim Modell Bonsai 27B haben sich die Fähigkeiten zur Nennung genauer Fakten, zur Bilderkennung und zur Arbeit mit externen Tools merklich verschlechtert. Dennoch blieben Logik, Mathematik und das Schreiben von Code auf einem hohen Niveau.

Auch die Frage des Energieverbrauchs bei längerer Nutzung bleibt offen. Der kontinuierliche Betrieb des neuronalen Netzes im Hintergrund kann den Akku schnell entladen, und der Prozessor beginnt bereits nach fünf Minuten ununterbrochener Arbeit aufgrund von Überhitzung, die Taktraten zu drosseln.

Apples Strategie: Warum sich das iPhone für Bonsai interessiert

Apple führt aktive Verhandlungen mit PrismML vor dem Hintergrund des Starts der öffentlichen Beta-Version von iOS 27, bei der das Unternehmen ein umfassendes Update für Siri vorgestellt hat. Der lokale Start komprimierter Modelle direkt auf den Prozessoren des iPhone bietet dem „Apple'-Konzern mehrere strategische Vorteile:

  • Minimale Latenz: Das Smartphone muss nicht mehr auf eine Antwort aus der Cloud warten – die Verarbeitung von Anfragen erfolgt sofort.
  • Maximale Privatsphäre: Sensible Daten wie medizinische Informationen, Medikamentenlisten oder Fitnessdaten verlassen das Gerät überhaupt nicht.
  • Autonomie: Grundlegende KI-Funktionen, Werkzeuge für computergestützte Fotografie, Videogenerierung und Textbearbeitung können ohne Internetverbindung funktionieren.
  • Kostensenkung: Die finanzielle Belastung durch den Unterhalt eigener Rechenzentren von Apple und die Bezahlung externer Cloud-Lizenzen wird reduziert.

Meinung der Analysten

Trotz der optimistischen Aussagen von PrismML raten unabhängige Analysten von Counterpoint Research und IDC zu einer vorsichtigen Bewertung der Technologie. Echte Tests außerhalb des Labors wurden noch nicht durchgeführt, und es ist noch zu früh zu sagen, ob diese Technologie zum Industriestandard werden kann.