Zrovna nedávno Google představil svůj první open-source model umělé inteligence s názvem Gemma ve dvou velikostech, Gemma 2B a 7B. Model je vhodný pro kreativní úkoly v angličtině, jako je generování textu, sumarizace, základní uvažování atd. Vzhledem k jeho malé velikosti lze model stáhnout a lokálně použít na počítači s nízkými zdroji bez připojení k internetu. Zde je náš návod ke stažení a spuštění modelu Google Gemma AI na Windows, macOS a Linux.
Stáhněte si model Google Gemma 2B
- Pokračujte a stáhněte si Studio LM (Uvolnit) na vašem počítači. Dále spusťte program.
- Na domovské stránce najdete „Google Gemma 2B Instruct“model. Můžete také ručně vyhledat „Gemma“. Teď to otevři.
- Dále stačí kliknout na „Stáhnout“. Je to a 1,5 GB soubor protože model Gemma 2B byl 4bitově kvantován, aby se zkomprimovala velikost modelu a snížilo se využití paměti. Pokud máte 8+ GB RAM, můžete si stáhnout 8bitový kvantovaný model (2,67 GB), který nabídne lepší výkon.
Spusťte Google Gemma offline pomocí LM Studio
- V LM Studiu přejděte na „Povídání” okno na levé straně.
- Poté klikněte na „Vyberte model, který chcete načíst“ a zvolte „gemma“. Spotřebuje asi 1,4 GB RAM.
- Nyní pokračujte a ptejte se na své otázky. Podle mých zkušeností je malý model 2B Gemma dobrý pro kreativní úkoly v anglickém jazyce. Odmítá odpovědět na cokoli hodnotného, kde se hledá názor na jakékoli téma (např. je C lepší než Rust?).
- Můžete také nastavit a systémová výzva na právo přizpůsobit chování modelu AI.
Takto si tedy můžete stáhnout a spustit model Gemma od Googlu na počítači PC, Mac a Linux. Zatímco jsem našel model Google s otevřeným zdrojovým kódem docela nevýraznýmůže být užitečné pro lidi, kteří hledají jednoduchý model umělé inteligence pro místní spuštění.
Každopádně to je od nás vše. Pokud hledáte skutečného místního asistenta AI, důrazně doporučuji vyzkoušet Open Interpreter. Funguje jako ChatGPT’s Code Interpreter a provádí skutečné úkoly na vašem počítači. Nakonec, pokud máte nějaké dotazy, dejte nám vědět v sekci komentářů níže.
