Ogam: Çevrimdışı Yetkinliklere ve Yerel Ağ Erişimine Sahip Özel Cihaz İçi AI
Ogam, Off Grid AI tarafından geliştirilen, mobil cihazlar ve Mac'ler için yerel ve çevrimdışı çalışan bir cihaz içi zeka aracıdır. Bu MCP sunucu aracı, C++ kütüphaneleri olan llama.cpp ve whisper.cpp kullanarak TypeScript ve React Native ile inşa edilmiştir. Cihaz içi AI çıkarımı için bir çevrimdışı AI paketi sunar ve bir AI İsviçre Çakısı gibi işlev görür. Ogam, Google Play Store ve Apple App Store üzerinden mevcuttur ve Android için beta sürümleri ile yüklenebilir. Temel işlevler için hesap veya API anahtarları gerektirmeyerek gizliliği vurgular ve verilerin cihazınızdan çıkmadığını garanti eder.
Ogam neye bağlanır?
Ogam esas olarak cihazda ve çevrimdışı olarak telefonlar ve Mac'lerde çalışır. Gelişmiş özellikler için Linear, Notion ve GitHub gibi harici MCP sunucularına bağlanabilir. Ayrıca, Ogam, PC'de çalışan daha büyük modelleri kullanabilmesi için Ollama, LM Studio veya LocalAI gibi OpenAI uyumlu sunucular için yerel ağları otomatik olarak tarar. Yerel ağdaki harici AI sunucuları ile HTTP üzerinden OpenAI uyumlu bir API aracılığıyla iletişim kurar ve SSE aracılığıyla akış yanıtlarını destekler.
Temel özellikler ve araçlar
Ogam, çevrimdışı bir AI paketi sunan bir AI İsviçre Çakısı olarak işlev görür. web arama, hesap makinesi, tarih/saat, cihaz bilgisi ve bilgi tabanı arama gibi belirli çağrılabilir araçları açığa çıkarır. Bilgi tabanı arama aracı, ilgili belgeler mevcut olduğunda proje konuşmaları için otomatik olarak search_knowledge_base olarak enjekte edilir. GGUF LLM'lerle etkileşim kurmayı, görüntü oluşturmayı, görsel AI gerçekleştirmeyi ve sesi yerel olarak transkribe etmeyi destekler.
Kimler için?
Ogam, bulut hizmetlerine güvenmeden özel, cihazda ve çevrimdışı AI yetenekleri arayan bireylere yöneliktir. Veri gizliliğine ve AI sohbeti, görüntü oluşturma ve belge analizi gibi görevler için yerel işleme öncelik veren kullanıcılara hitap eder. İsteğe bağlı Off Grid Pro katmanı, MCP sunucularıyla daha derin entegrasyon ve otomasyon isteyen kullanıcılar içindir. Ek bir lisans olmadan tüm gelişmiş özelliklere ihtiyaç duyuyorsanız bunu atlayın.
Nasıl başlanır
Ogam'ın temel işlevselliği için kimlik bilgisi gereklidir. Uzak OpenAI uyumlu sunuculara bağlantı kurmak, Ollama gibi sunucunun ağda dinlemesi için OLLAMA_HOST=0.0.0.0 olarak ayarlandığından emin olmayı ve ardından Ogam'ın Ağ Tarama özelliğini kullanmayı içerir.
Kullanım durumları
- Yerel AI Sohbet ve Oluşturma: GGUF LLM'lerle etkileşim kurun, görüntü oluşturun, görsel AI gerçekleştirin ve sesi tamamen cihazda transkribe edin.
- Belge Analizi ve Bilgi Tabanı: PDF'leri ve metin belgelerini yükleyerek cihazda Belge Geliştirilmiş Yanıt (RAG) için kişisel bir bilgi tabanı oluşturun ve belirli soruları yanıtlayın.
- Uzak Model Erişimi: Yerel ağ üzerinden mobil cihazdan yerel bir PC'de barındırılan daha büyük AI modellerine (örneğin, Ollama veya LM Studio aracılığıyla) bağlanın ve bunları kullanın.
- Otomasyon ve Araç Çağırma (Pro): Takvim, e-posta, Linear, Notion ve GitHub gibi MCP sunucularına bağlanarak eylemleri taslak haline getirin ve onaylayın.
Ogam, çevrimdışı çalışma ve veri gizliliğine vurgu yaparak özel, cihaz içi AI yetenekleri sunar. Harici MCP sunucularına ve yerel OpenAI uyumlu sunuculara bağlanabilme yeteneği, faydasını önemli ölçüde artırır. İsteğe bağlı Pro katmanı, otomasyon iş akışları için daha derin entegrasyon sunar. Bu araç, bulut bağımlılığı olmadan çok yönlü AI'ya ihtiyaç duyan kullanıcılar için uygundur. Cihaz içi RAG için kişisel bir bilgi tabanı oluşturmak üzere bir PDF yüklemeyi deneyin.
