谷歌(gē)推出最新的(de)開(kāi)源大(dà)模型—Gem<σπma，它采用(yòng)了(le)與Gemiσ∑✘♥ni模型相(xiàng)同的(de)研究和(h®←é)技(jì)術(shù)所構建，但(dàn ')比Gemini更輕量級更先進。

Gemma是(shì)一(yī)系列輕量級、最先進 γ$‍的(de)開(kāi)放(fàng)式模型，采用(yò∏→ng)與創建Gemini模型相(xiàng)同的(de)•✘±研究和(hé)技(jì)術(shù)而構建。Gemma 由 ∞‍ "Google DeepMind 和(hé) G ♣σ≤oogle 的(de)其他(tā)團隊開(kāi)發，其靈<×≥感來(lái)自(zì) Gemini，其名稱反映了(le)拉丁♦φ 語gemma，意思是(shì)“寶石”。

什(shén)麽是(shì)gemma

Gemma 是(shì) Google AI 系列的(de)↑ ♣×最新成員(yuán)，包括源自(zì) Gemini 模型的(₽↔de)相(xiàng)同技(jì)術(sh→♠ù)的(de)輕量級頂級開(kāi)放(fàng)模型。

Gemma不(bù)僅僅隻有(yǒu)2B 和(hé) 7B這(z™♦hè)兩種規模，實際上(shàng)是(shì)發布了(le)Gemmε★φa系列（經過預訓練的(de)變體(tǐ)和(hé)指令優化(★εhuà)的(de)變體(tǐ)，大(dà)大(dà)小(xiǎo)←$∞>小(xiǎo)50多(duō)種），Gemma 模型非常适合各種文(w±★γén)本生(shēng)成任務，包括問(wèn)答(dá)、總結和(hσ©λé)推理(lǐ)。

同時(shí)，還(hái)能(néng)在Keras3.0（以集成∏εσ✔主要(yào)框架JAX、PyTorch和(hé)TensorFlo≈&w）上(shàng)用(yòng)于推理(lǐ)和(hé)監督微(wēλαπ≥i)調（SFT）的(de)工(gōng)具鏈。以及提供了(le)谷歌(≤'εgē)Colab和(hé)Kaggle筆(bǐ)記本快(kuài)速 ₽​部署代碼和(hé)HuggingFace等第三方 ₹↕AI平台的(de)集成，使用(yòng)戶能(néng)快(kuà≥πi)速上(shàng)手體(tǐ)驗。

功能(néng)介紹

1.以兩種規模發布模型尺寸：Gemma <✘©>2B和(hé)Gemma 7B。每種規模∏↑ ☆都(dōu)發布了(le)預訓練和(hé)指令調÷∑α優的(de)變體(tǐ)。

2.一(yī)個(gè)新的(de)負責₩£任的(de)生(shēng)成式AI工(gōng)具包提供了($<™le)指導和(hé)必要(yào)工(gōng)具，δ​用(yòng)于使用(yòng)Gemma創建更安全的(de)AI應用(y λ≤òng)。

3.為(wèi)所有(yǒu)主要(yào)框↕≥ φ架提供了(le)推理(lǐ)和(hé)監督式微(wēi)調（SF≠♣ε T）的(de)工(gōng)具鏈：通(tōn&λ'g)過原生(shēng)Keras 3.0支持JAX、PyTorch和(hé​£∑)TensorFlow。

4.随時(shí)可(kě)用(yòng)的(de)Colab和(hé)Ka✘σ₹$ggle筆(bǐ)記本，以及與流行(xíng)工(gōnσ♠g)具（如(rú)Hugging Face✔$β、MaxText、NVIDIA NeMo和(h♣↔φé)TensorRT-LLM）的(de)集®♥¥成，使得(de)開(kāi)始使用(yòng)Ge₩$mma變得(de)簡單。

5.預訓練和(hé)指令調優的(de)Gemma模→∏型可(kě)以在您的(de)筆(bǐ)記本電(diàn)腦(nǎo)、€& ↔工(gōng)作(zuò)站(zhàn)♣​>✘或Google Cloud上(shàng)運¥γ®行(xíng)，通(tōng)過Vertex AIγ&∞←和(hé)Google Kubernetes Engine（GKE）輕松部署™ >。

6.在多(duō)個(gè)AI硬件(jiàn)平台上(shàng♠✘‍≥)的(de)優化(huà)确保了(le)行(xíng)業(yè)領先的(d≤β&πe)性能(néng)，包括NVIDIA GPΩ☆×U和(hé)Google Cloud TPU>∏<。

尺寸性能(néng)

Gemma 模型與Gemini共享技(jì)術(shù)和(hé)基礎設施  ₽組件(jiàn)，Gemini 是(shì)我們當今廣泛使用÷♦(yòng)的(de)最大(dà)、功能(nén∏®g)最強大(dà)的(de) AI 模型☆÷✔←。與其他(tā)開(kāi)放(fàng)式型号相(xiàng☆✘™γ)比，這(zhè)使得(de) Gemma 2B 和(hé) 7B 能(nén&∑g)夠在其尺寸範圍內(nèi)實現(xiàn)同類最佳的(de)性能(néng↑β)。Gemma 模型能(néng)夠直接在開(kāi)發人α‌↔×(rén)員(yuán)筆(bǐ)記本電(diàn)腦(nǎo)或台式計(jì≥σ★)算(suàn)機(jī)上(shàng)運σ×行(xíng)。值得(de)注意的(de)是(sh∏α±₩ì)，Gemma 在關鍵基準上(shàng)超越了(le)更大(dà)↕®≠₽的(de)模型，同時(shí)遵守關于安全和(hé)負責任★♦的(de)輸出的(de)嚴格标準。有(yǒΩ→&u)關性能(néng)、數(shù)據集組成和λ±←(hé)建模方法的(de)詳細信息。

設計(jì)更加負責

Gemma 的(de)設計(jì)以人(ré♦÷¶∏n)工(gōng)智能(néng)原則為(wèi)核心。為(wèi)₩± $了(le)使 Gemma 預訓練模型安全可(kě)靠，使用(yòng& )自(zì)動化(huà)技(jì)術(shù≈≤)從(cóng)訓練集中過濾掉某些(xiē)個(gè)人(rénπ≠₽ )信息和(hé)其他(tā)敏感數(shù)據。此外(w©πài)，利用(yòng)人(rén)類反饋 (RL×→ΩαHF) 進行(xíng)廣泛的(de)微(w​★ēi)調和(hé)強化(huà)學習(xí)，使指令調←↔整模型與負責任的(de)行(xíng)為(wèi)保持一✘♥¶(yī)緻。為(wèi)了(le)了(le)解和(hé)₩©±降低(dī) Gemma 模型的(de)風(fēng)險狀況 ≤，進行(xíng)了(le)穩健的(de§↑ε←)評估，包括手動紅(hóng)隊、自(zì)✔®•動對(duì)抗測試以及危險活動模型能(néng)力§ε評估。

跨框架、工(gōng)具和(hé)硬件(ji ™>àn)進行(xíng)優化(huà)

可(kě)以根據自(zì)己的(de)數(shù)據♠↓ 微(wēi)調 Gemma 模型，以适應特定的(de)應用(yòng)程序&®∑≤需求，例如(rú)摘要(yào)或檢索增強生(shēng)成 ‌εγ‍(RAG)。Gemma 支持多(duō)'↔ε種工(gōng)具和(hé)系統：

多(duō)框架工(gōng)具：帶上(shàng)您最喜歡的(de)框×→≈架，以及跨多(duō)框架 Keras 3.0、本""≠¶機(jī) PyTorch、JAX 和(hé) Hugging ↕®₩Face Transformers 進行(xíng✔&→)推理(lǐ)和(hé)微(wēi)調的(de)參考實現(xiàn)。¶÷φ

跨設備兼容性： Gemma 模型可(kě)以跨流行(xí ←ng)的(de)設備類型運行(xíng)，包括筆(bǐ)記本電(diàn)腦(≥↕nǎo)、台式機(jī)、物(wù)聯網、移γ​動設備和(hé)雲，從(cóng)而實現(xià•≈×®n)廣泛的(de) AI 功能(néng)。

尖端硬件(jiàn)平台：針對(duì) NVIDIA GPU >•優化(huà) Gemma，從(cóng)數(shù)據中心到(₽λdào)雲端再到(dào)本地(dì) RTX AI PC，确保行(x>✔íng)業(yè)領先的(de)性能(néng)并↔✔與尖端技(jì)術(shù)集成。

針對(duì) Google Cloud 進行(xíng)了(le)優化≤♠®(huà)： Vertex AI 提供了(le)廣泛的(de) MLOps 工π↔&(gōng)具集，其中包含一(yī)系列調整選項以及使用φ®(yòng)內(nèi)置推理(lǐ)優化(huà)€σγ的(de)一(yī)鍵部署。完全托管的(de) Ver→¥tex AI 工(gōng)具或自(zì)我管理(lǐ)的(λ≥"de) GKE 提供高(gāo)級自(zì)定義功能(n®∑σéng)，包括從(cóng)任一(yī)平台跨 GPU、TP♦←✘U 和(hé) CPU 部署到(dào)經濟高(gāo)效的÷£(de)基礎設施。

Gemma是(shì)Google在2024年(n↑☆ián)2月(yuè)21日(rì)推出≈♥€☆的(de)一(yī)個(gè)新項目，旨在為(wèi)用(y ®♥òng)戶提供豐富的(de)提示、代碼示例和(hé)集成方案±≥，以便深入了(le)解和(hé)使用(yòng)這(z✘Ωhè)一(yī)平台。通(tōng)過我們的(de)×¥初步測試，我們發現(xiàn)Gemma在運行(xíng)時(shí)‍←★需要(yào)一(yī)定的(de)時(shí)間(jiān)。這(z©≥εΩhè)不(bù)僅反映了(le)其強大(dà)的(de)功☆÷λ能(néng)和(hé)複雜(zá)的(de)算(suàn)法，>×也(yě)意味著(zhe)用(yòng)戶在使用(yòng)過程中需要(y£ αào)耐心等待，以充分(fēn)發揮Gemma的(de)潛力。Google提⣧$供的(de)資源非常有(yǒu)助于縮短(duǎn)學習(xí)¥γ≥曲線，讓用(yòng)戶能(néng)夠←γ更快(kuài)地(dì)掌握Gemma的(de)使用(yò±γng)方法，并有(yǒu)效地(dì)将其應用(yòng)•×δ®于各種項目中。