Yasal zorunluluklar nedeniyle yapay zeka çalışmalarınızı kendi yerel sunucularınızda mı yapmak zorundasınız? AWS, Microsoft Azure, IBM Cloud veya Google Cloud gibi bulut tabanlı sunucularda verilerinizi saklayamıyor musunuz? Ayrıca, OpenAI veya diğer kapalı kaynak LLM API’lerini kullanarak şirket içi uygulamalar geliştiremiyor musunuz?

Çözüm: Açık kaynak büyük dil modellerini (LLM) kullanabilirsiniz!

Kendi sunucularınıza yüklediğiniz açık kaynak LLM’leri kullanabilirsiniz. Bu işlemleri Claude veya ChatGPT hızında yapmak için yüksek hızda GPU’lara ihtiyacınız olacak, ancak kişisel bilgisayarınızıda kullanarak deneyimleyebilirsiniz.

Örneğin, ben kendi M2 işlemcili Mac Mini bilgisayarıma Llama 8 milyar parametreli modelini kurdum ve çalıştırdım. Terminalde çalıştırmak biraz zor olabilir, ama yine açık kaynak kullanıcı arayüzü kullanarak işinizi kolaylaştırabilirsiniz. Benim bu çalışmayı yaparken şöyle bir amacım vardı: Modele bağlayacağım veri tabanı veya ekleyeceğim veri seti hakkında sorular sorarak veriler hakkında bilgi almak ve model tarafından yorumlamasını test etmek.

Tüm açık kaynak LLM’leri ollama.com üzerinden indirebilir ve kendi projelerinizde kullanabilirsiniz. Konu hakkında herhangi bir sorunuz olursa bana ulaşabilirsiniz.

Yapay zeka alanında kendi yolculuğunuza başlamak için harika bir fırsat!