Opera führt lokale KI im Browser Opera One ein
Opera hat damit begonnen, die Technologie WebAI schrittweise im Browser Opera One einzuführen. Sie ermöglicht es Websites und Erweiterungen, auf KI-Modelle zuzugreifen, die direkt auf dem Gerät des Nutzers laufen. Dadurch müssen die verarbeiteten Daten nicht zwingend an Cloud-Dienste übermittelt werden. Als mögliche Aufgaben nennt der Entwickler die Textgenerierung und die Klassifizierung von Inhalten.
Die Funktion ist als Vorabversion im frühen Zugang verfügbar und muss vom Nutzer selbst aktiviert werden. Unterstützt werden 64-Bit-Computer mit Windows und Prozessoren von Intel und AMD sowie Macs mit Apple-Silicon-Chips. Windows auf Arm-Architektur wird bislang nicht unterstützt. Ein separater NPU ist nicht erforderlich, die Geschwindigkeit hängt von den Fähigkeiten des jeweiligen Computers ab.
Die Modelle werden erst nach der Aktivierung der Funktion heruntergeladen, und über das Berechtigungssystem lässt sich der Zugriff einzelner Websites auf sie einschränken. Zu den unterstützten Lösungen zählt Opera Gemma von Google sowie das lokale Basismodell von Apple für kompatible Macs. Das Unternehmen plant, weitere Modelle hinzuzufügen, die für verschiedene Geräte optimiert sind. Da WebAI als Webstandard vorgeschlagen wird, hängt seine künftige Bedeutung davon ab, wie weit sich die Technologie über den Opera-Browser hinaus verbreitet.
Die Datenverarbeitung auf dem Gerät kann den Bedarf verringern, vertrauliche Informationen an externe KI-Anbieter zu senden, garantiert jedoch keine Sicherheit. Der Geschäftsführer von Pareekh Consulting, Pareekh Jain, warnt, dass schädliche Websites lokale Modelle mithilfe versteckter Anweisungen beeinflussen können. Seinen Worten zufolge könnten gefährliche Erweiterungen Zugriff auf sensible Informationen erhalten, die auf dem Bildschirm angezeigt werden. Zudem kann es für die IT-Abteilungen von Unternehmen schwieriger sein, den Betrieb von KI auf einzelnen Computern zu kontrollieren, als den Netzwerkverkehr zu überwachen.
Für den Einsatz in Unternehmen benötigen Organisationen weiterhin Regeln für den Zugriff von Websites und Erweiterungen auf die Modelle, eine Kontrolle der Datennutzung und eine zentrale Verwaltung der Berechtigungen. Die Senior Vice President von Kadence International, Tulika Sheel, weist darauf hin, dass Unternehmen außerdem Modellaktualisierungen und die Integration der Technologie in bestehende Systeme berücksichtigen müssen.
Lokale KI kann potenziell einfache Aufgaben, etwa das Kürzen und Umschreiben von Texten, ohne ständige Cloud-Zugriffe und ohne Bezahlung der entsprechenden Anfragen ermöglichen. Die Einsparung ist jedoch nicht garantiert. Komplexe Aufgaben können leistungsstarke Hardware oder Cloud-Modelle erfordern, und auch die Einführung und Wartung lokaler Lösungen verursachen Kosten. Nach Einschätzung von Jain ist ein hybrider Ansatz am wahrscheinlichsten, bei dem lokale KI einfache Vorgänge übernimmt und Cloud-Systeme die komplexeren.