Yakup Birgül

Ubuntu Üzerinde Ollama 3 Modelinin Kurulumu ve Kullanımı

By 0 Comments

Llama 3, 2023 yılında piyasaya sürülen son derece gelişmiş bir yapay zeka modelidir. 15 trilyon token içeren devasa bir veri kümesi üzerinde eğitilen bu model, LLaMA 2’den yedi kat daha fazla veri ile beslenmiştir. Bu geniş veri yelpazesi, LLaMA 3’ün bilgi zenginliği ve karmaşık görevleri yerine getirme yeteneği bakımından önemli ölçüde güçlenmesini sağlar.

Şimdi bu modelin llama3 modelini linux tabanlı bir işletim sistemi olan Ubuntu üzerine kurulumunu anlatacam.

Bunun için gereksinimler;

ilk olarak ollama resmi sitesine giderek Download kısmından ubuntu için gerekli linux kısmına tıklayın;

Kurduğunuzu varsaydığım ubuntu işletim sisteminizde terminale giderek ;

curl -fsSL https://ollama.com/install.sh | sh

kurulum kodunu kopyalayarak yapıştırın ve eğer siz özel olarak kurmak istediğiniz bir yer varsa oraya da kurabilirsiniz. Ben masaüstüne mkdir komutunu kullanarak oluşturduğum ollama klasörüne yükleyecem.

Eğer sizde curl komutu bulunmadı şeklinde bir hata verirse ki büyük ihtimalle varsayılan olarak yüklü olmadığı için verecektir. Aşağıdaki işlemle kolaylıkla kurabilirsiniz.

sudo apt install curl

Curl kurduktan sonra “curl -fsSL https://ollama.com/install.sh | sh” komutunu tekrar çalıştırabilirsiniz.

Kurulum başladı ve biraz uzun sürebilir. Kurulum bittikten sonra terminalde ollama komutu ile indirdiğiniz modelin kılavuzunu görebilirsiniz. Burda çalıştığını görebiliriz.

Ollama’nın size özel olan key ve çalışma portunu öğrenmek için aşağıdaki komutu girebilirsiniz.

ollama serve

Bir sonraki asıl işlemimiz olan llama3 8b modelini kurmak olacak farklı modellerde var ama en azından nasıl çalıştığını ve boyut olaraktan küçük olduğu için ben bu modeli seçtim.

Sırasıyla ollama sitesine giderek Models > llama 3 8b > “ollama run llama3” komutunu kopyalayarak terminalde bunu çalıştırmak olacak boyutu 4.7 GB civarında olduğu için internet hızınıza bağlı olarak biraz uzun sürebilir.

Kurulum bittikten sonra sizi aşağıdaki görselde olduğu gibi llama3 modeli karşılayacak.

Bundan sonrası artık sizin bu modeli eğitmeniz ve modifiye etmenize bağlı olarak kullanımınıza bağlı olarak gelişecektir.

Mesela ben bir basit bir HTML kodu istediğimde bana bunu artık yazabilecek.

Not : Sisteme verdiğiniz bellek, internet ve kaynaklar doğrultusunda işlem hızında düşüş görülebilir.

Bu yazımda, Ubuntu işletim sistemi üzerinde Ollama 3 modelinin nasıl kurulacağını ve kullanılacağını adım adım anlattık. Bu güçlü modeli kendi projelerinizde kullanarak, yapay zeka ve makine öğrenmesi çalışmalarınıza faydalı olabileceğini düşünüyorum.

Keyifli Okumalar Diliyorum!