Jan: Açık Kaynaklı, Çevrimdışı ChatGPT Alternatifi

Jan, ticari yapay zeka sohbet robotları olan ChatGPT, Claude ve Gemini’ye doğrudan bir alternatif olarak tasarlanmış, açık kaynaklı, yerel öncelikli ve gizlilik odaklı bir masaüstü uygulamasıdır. Temel amacı, kullanıcıların büyük dil modellerini (LLM) tamamen çevrimdışı olarak kendi cihazlarında çalıştırmalarını sağlayarak, verileri ve yapay zeka etkileşimleri üzerinde tam kontrol sunmaktır. Jan, kolay kullanımlı bir arayüzle yapay zeka gücünü herkes için erişilebilir hale getirmeyi hedefler.

Yazılım, Menlo Research tarafından geliştirilen ve optimize edilmiş performans için çeşitli donanım mimarilerini destekleyen yerleşik bir yerel yapay zeka motoru olan Cortex tarafından desteklenmektedir.

Ne İşe Yarar?

Jan, öncelikli olarak kullanıcıların yapay zeka modelleriyle harici sunuculara veri göndermeden doğrudan kendi bilgisayarlarında etkileşim kurmasını sağlar. Bu, gizliliğe duyarlı görevler ve bulut bağımlılıkları olmadan yapay zekayı denemek isteyen kullanıcılar için idealdir. Başlıca işlevleri şunlardır:

• Çevrimdışı Yapay Zeka Sohbeti: Yapay zeka modelleriyle (LLM’ler) internet bağlantısı olmadan sohbet edin; tüm işlem yerel olarak gerçekleştiği için veri gizliliğiniz tamamen korunur.
• Yerel LLM Çalıştırma: Llama, Gemma, Mistral, Qwen ve herhangi bir GGUF modeli gibi popüler açık kaynaklı LLM’leri doğrudan kendi donanımınıza indirip çalıştırın.
• Varsayılan Olarak Gizlilik: Tüm sohbetler ve veriler yerel olarak cihazınızda depolanır; bu sayede verileriniz üzerinde tam kontrol sahibi olursunuz ve Jan tarafından hiçbir kişisel bilginin toplanmaması veya satılmaması sağlanır.
• Model Kütüphanesi ve Yönetimi: Çeşitli LLM’leri kolayca taramak, indirmek ve yönetmek için bir “Merkez” veya “Model Kütüphanesi” sunar.
• Yerel API Sunucusu (OpenAI Uyumlu): Jan, OpenAI’nin API’siyle uyumlu yerel bir API sunucusu içerir. Bu, geliştiricilerin diğer yerel uygulamaları (kodlama yardımcıları veya özel araçlar gibi) Jan’a bağlamasına ve yerel olarak barındırılan yapay zeka yeteneklerini kullanmasına olanak tanır.
• Özelleştirme için Uzantılar: Genişletilebilir bir mimari, kullanıcıların Jan’ın işlevselliğini uzantılar aracılığıyla özelleştirmesine olanak tanır; bu da yapay zekanın davranışını ve yeteneklerini belirli gereksinimlere göre uyarlamayı mümkün kılar.
• Hibrit Model Desteği: Öncelikle yerel yapay zekaya odaklanmış olsa da, Jan aynı zamanda kullanıcıların kendi API anahtarlarını kullanarak uzak yapay zeka API’lerine (OpenAI, Groq, OpenRouter, Anthropic gibi) bağlanmasına da izin verir. Bu, yerel donanım sınırlamaları olduğunda veya belirli bir modele erişim için bulut tabanlı modelleri kullanma esnekliği sunar.

Temel Özellikleri

Jan’ın öne çıkan özellikleri gizliliği, kontrolü ve erişilebilirliği vurgular:

• %100 Çevrimdışı Çalışma: Bir model indirildikten sonra Jan tamamen çevrimdışı çalışır ve verilerinizin asla cihazınızdan ayrılmamasını sağlar.
• Geniş Donanım Uyumluluğu: NVIDIA GPU’lar, Apple M serisi (M1, M2, M3), Intel işlemciler ve Linux sistemleri dahil olmak üzere geniş bir donanım yelpazesini destekler. Tüketici bilgisayarlarından çoklu GPU kümelerine kadar ölçeklenebilir.
• Açık Kaynak (Apache 2.0 Lisansı): Projenin tamamı açık kaynaktır; şeffaflığı, topluluk katkılarını ve kullanma, değiştirme ve dağıtma özgürlüğünü teşvik eder.
• Kullanıcı Dostu Arayüz: Teknik bilgisi olmayan kullanıcılar için bile kolayca gezilebilir ve kullanılabilir şekilde tasarlanmıştır.
• Veriler Yerel Olarak Depolanır: Tüm sohbet geçmişi ve dosyalar, özel bir Jan Veri Klasöründe cihazınızda yerel olarak depolanır.
• Yapay Zeka Modellerinde Serbest Seçim: Kullanıcılar çeşitli açık kaynaklı LLM’leri indirip çalıştırabilir veya kendi anahtarlarını kullanarak ticari bulut API’leriyle entegre olabilir.
• GPU Hızlandırma: Donanım tarafından desteklendiğinde önemli ölçüde daha hızlı işleme ve geliştirilmiş performans için GPU yeteneklerinden yararlanır.
• Aktif Geliştirme: Özel bir topluluk tarafından sürekli olarak güncellenmekte ve geliştirilmektedir.

Nasıl Çalışır?

Jan, yerel makinenizi bir yapay zeka işleme merkezine dönüştürerek çalışır:

1. İndirme ve Kurulum: Kullanıcılar, işletim sistemlerine (Windows, macOS veya Linux) özel Jan masaüstü uygulamasını indirir.
2. Model Edinimi: Jan uygulamasının “Merkez” veya “Model Kütüphanesi” içinden, kullanıcılar istedikleri LLM modellerini (örneğin, Llama 3, Mistral) seçer ve indirir. Bu modeller genellikle GGUF formatındadır. Kullanıcılar ayrıca mevcut GGUF modellerini Hugging Face’ten veya yerel dosyalardan da içe aktarabilir.
3. Yerel Yapay Zeka Motoru (Cortex): Jan, indirilen bu LLM’leri kullanıcının donanımında verimli bir şekilde çalıştırmak için Cortex’i (llama.cpp gibi projelere dayalı bir C++ motoru) kullanır. Cortex, arka planda çalışan (örneğin, localhost:1337 adresinde) OpenAI uyumlu bir API sağlar.
4. Etkileşim: Kullanıcılar, ChatGPT’ye benzer şekilde Jan’ın sohbet arayüzü aracılığıyla yüklü LLM ile etkileşim kurar. Uygulama, kullanıcı istemlerini yerel Cortex motoruna gönderir; bu motor, seçilen LLM’yi kullanarak bunları işler ve yanıtı döndürür.
5. İsteğe Bağlı Bulut Entegrasyonu: İstenirse, kullanıcılar Jan’ı bulut tabanlı yapay zeka hizmetleri (OpenAI’nin GPT-4o veya Claude gibi) için API anahtarlarıyla yapılandırabilir ve modellerinden yararlanabilir. Bu senaryoda, ilgili bulut sağlayıcının veri politikaları geçerli olacaktır.
6. Gizlilik ve Kontrol: Birincil çalışma modu çevrimdışı ve yerel olduğu için, kullanıcılar verileri üzerinde tam gizlilik ve kontrol sahibi olurlar.

Fiyatlandırma

Jan tamamen ücretsiz ve açık kaynak kodlu bir yazılımdır.

• Jan’ı veya yerel modellerini ve özelliklerini kullanmak için abonelik ücreti yoktur.
• Proje, topluluk katkılarına ve desteğine güvenmektedir.
• Bir kullanıcı Jan’ı üçüncü taraf bulut yapay zeka hizmetlerine (örneğin, OpenAI, Groq) bağlamayı seçerse, API kullanımı için standart ücretleri doğrudan bu sağlayıcılara ödeyecektir. Jan, bunun için herhangi bir ek ücret veya komisyon almaz.

Desteklenen Platformlar

Jan, geniş çapraz platform uyumluluğu sunarak geniş bir kullanıcı tabanına erişilebilir olmasını sağlar:

• Windows: Windows 10 (64-bit) ve Windows 11’i destekler.
• macOS: macOS 10.12 (Sierra) veya sonraki sürümleri destekler; hem Intel hem de Apple Silicon (M1, M2, M3, M4) işlemcileri için yerel desteğe sahiptir.
• GNU/Linux: Çeşitli Linux dağıtımlarıyla uyumludur.

Hem standart bilgisayarlardan hem de çoklu GPU’lu sistemlere kadar çeşitli donanımlarda çalışacak şekilde tasarlanmıştır.

İncelemeler ve Genel Yorumlar

Jan, özellikle gizliliğe ve yapay zeka etkileşimleri üzerinde yerel kontrole öncelik veren kullanıcılar tarafından genellikle olumlu karşılanmaktadır. Ticari tekliflere umut vadeden ve aktif olarak gelişen bir alternatif olarak görülmektedir.

• Artıları:

  • Olağanüstü Gizlilik: Çevrimdışı öncelikli yaklaşımı ve yerel veri depolaması, gizlilik bilincine sahip kullanıcılar için büyük avantajlardır.
  • Tamamen Ücretsiz ve Açık Kaynak: Gizli maliyet yoktur; özelliklerine tam erişim sağlar ve topluluk katkılarına olanak tanır.
  • Geniş Donanım Desteği: Bütçe dostu bilgisayarlardan yüksek performanslı çoklu GPU kurulumlarına kadar çeşitli sistemlerde çalışır.
  • Kullanıcı Dostu Tasarım: LLM’leri yerel olarak çalıştırma sürecini basitleştirmeyi hedefler ve teknik olmayan kullanıcılara erişilebilir kılar.
  • Yerel ve Bulut Modelleriyle Esneklik: Gizlilik için yerel LLM’leri ve gelişmiş modeller veya hesaplama ihtiyaçları için isteğe bağlı bulut API’lerini destekleyerek her iki dünyanın da en iyisini sunar.
  • OpenAI Uyumlu Yerel API: Yerel yapay zekayı uygulamalarına entegre etmek isteyen geliştiriciler için değerlidir.
  • Aktif Geliştirme Topluluğu: Düzenli güncellemeler ve iyileştirmeler yayınlanmaktadır.

• Eksileri:

  • Daha Büyük Modeller İçin Kaynak Yoğunluğu: Çeşitli donanımları desteklese de, daha büyük veya daha karmaşık LLM’leri yerel olarak çalıştırmak, optimum performans için hala önemli hesaplama kaynakları (RAM, GPU VRAM) gerektirir.
  • Hala Gelişme Aşamasında: Açık kaynaklı bir proje olduğu için, özellikle “Deneysel” sürümlerinde zaman zaman hatalar veya bozan değişiklikler yaşanabilir.
  • Model Kullanılabilirliği/Güncellemeleri: En yeni veya en özel LLM’lere erişim, sağlayıcılardan doğrudan API erişimine kıyasla biraz geride kalabilir veya manuel GGUF içe aktarmaları gerektirebilir.
  • Yerel Kurulum Gerektirir: Kullanıcıların modelleri yerel olarak indirip yönetmesi gerekir; bu, bulut tabanlı yapay zekaya alışkın olanlar için yeni bir kavram olabilir.
  • Ticari Yapay Zeka ile Doğrudan Özellik Eşleşmesi Değil: Bir “ChatGPT alternatifi” olsa da, temel sohbet işlevselliğine ve yerel LLM yürütmesine odaklanır. Ticari ürünlerde bulunan tüm gelişmiş özellikleri (örneğin, sofistike web taraması, yüksek düzeyde geliştirilmiş çok modlu yetenekler, kutudan çıkar çıkmaz kapsamlı üçüncü taraf entegrasyonları) sunmayabilir.

Genel olarak, Jan, yapay zeka modellerini kendi koşullarında, gizlilik ve kullanıcı kontrolüne güçlü bir vurgu yaparak çalıştırmak isteyen herkes için cazip bir seçenektir. Geliştiriciler, araştırmacılar ve hassas verilerle çalışan bireylerin yanı sıra yerel LLM’leri denemek isteyen yapay zeka meraklıları için özellikle uygundur.