NVIDIA NeMo Framework Stiùireadh Cleachdaiche

Frèam NVIDIA NeMo

Sònrachaidhean

• Ainm toraidh: Frèam NVIDIA NeMo
• Àrd-ùrlaran air a bheil buaidh: Windows, Linux, macOS
• Tionndaidhean air a bheil buaidh: A h-uile dreach ro 24
• So-leòntachd tèarainteachd: CVE-2025-23360
• Sgòr Bunasach Measadh Cunnairt: 7.1 (CVSS v3.1)

Stiùireadh airson cleachdadh bathar

Stàladh ùrachadh tèarainteachd:
Gus an siostam agad a dhìon, lean na ceumannan seo:

1. Luchdaich sìos an naidheachd as ùire bhon duilleag NeMo-Framework-Launcher Releases air GitHub.
2. Rach gu NVIDIA Product Security airson tuilleadh fiosrachaidh.

Fiosrachadh ùrachadh tèarainteachd:
Tha an ùrachadh tèarainteachd a’ dèiligeadh ri so-leòntachd ann am Frèam NVIDIA NeMo a dh’ fhaodadh leantainn gu coileanadh còd agus dàta tampseargadh.

Ùrachadh bathar-bog:
Ma tha thu a’ cleachdadh brath meòir nas tràithe, thathas a’ moladh gun atharraich thu chun fhoillseachadh meòir as ùire gus dèiligeadh ri cùis tèarainteachd.

Thairisview

Tha NVIDIA NeMo Framework na fhrèam AI ginealach scalable agus dùthchasach sgòthan a chaidh a thogail airson luchd-rannsachaidh agus luchd-leasachaidh ag obair air Modailean mòra cànain, Iomadach, agus Òraid AI (m.e Aithneachadh guth fèin-ghluasadach agus Teacs-gu-Òraid). Leigidh e le luchd-cleachdaidh modalan AI ginealach ùra a chruthachadh, a ghnàthachadh agus a chleachdadh le bhith a’ faighinn buannachd bho chòd a th’ ann mar-thà agus puingean sgrùdaidh modail ro-thrèanadh.

Stiùiridhean rèiteachaidh: Stàlaich NeMo Framework

Modalan Cànain Mòra agus Modalan Ioma-mhodhail
Tha NeMo Framework a’ toirt seachad taic deireadh-gu-deireadh airson a bhith a’ leasachadh Modalan Cànain Mòr (LLMn) agus Modalan Ioma-mhodhail (MMn). Tha e a’ toirt seachad sùbailteachd airson a bhith air a chleachdadh san togalach, ann an ionad dàta, no leis an t-solaraiche sgòthan as fheàrr leat. Bidh e cuideachd a’ toirt taic do choileanadh air àrainneachdan le comas SLURM no Kubernetes.

Glèidhteachas Dàta
Neach-gleidhidh NeMo [1] na leabharlann Python anns a bheil sreath de mhodalan airson mèinneadh dàta agus gineadh dàta synthetigeach. Tha iad scalable agus làn-leasaichte airson GPUs, gan dèanamh air leth freagarrach airson dàta cànain nàdarra a ghlèidheadh ​​​​gus LLMn a thrèanadh no a ghleusadh. Le Neach-glèidhidh NeMo, faodaidh tu teacsa àrd-inbhe a thoirt a-mach à amh farsaing web stòran dàta.

Trèanadh agus Gnàthachadh

Tha NeMo Framework a’ toirt seachad innealan airson trèanadh èifeachdach agus gnàthachadh de LLM agus modalan ioma-mheadhain. Tha e a’ toirt a-steach rèiteachaidhean bunaiteach airson stèidheachadh cnuasachadh coimpiutaireachd, luchdachadh sìos dàta, agus hyperparameters modail, a ghabhas atharrachadh gus trèanadh air stòran-dàta agus modalan ùra. A bharrachd air ro-thrèanadh, tha NeMo a’ toirt taic do gach cuid dòighean gleusadh grinn fo stiùir (SFT) agus gleusadh paramadair èifeachdach (PEFT) leithid LoRA, Ptuning, agus barrachd.

Tha dà roghainn rim faighinn gus trèanadh a chuir air bhog ann an NeMo - a’ cleachdadh an eadar-aghaidh NeMo 2.0 API no le NeMo Run.

• Le NeMo Run (Air a mholadh): Tha NeMo Run a’ toirt seachad eadar-aghaidh gus rèiteachadh, coileanadh agus riaghladh dheuchainnean a sgioblachadh thar diofar àrainneachdan coimpiutaireachd. Tha seo a’ toirt a-steach obraichean a chuir air bhog air an ionad-obrach agad gu h-ionadail no air cruinneachaidhean mòra - an dà chuid SLURM air a chomasachadh no Kubernetes ann an àrainneachd sgòthan.
  • Ro-thrèanadh & PEFT Quickstart le NeMo Run
• A’ cleachdadh an API NeMo 2.0: Bidh an dòigh seo ag obair gu math le suidheachadh sìmplidh a’ toirt a-steach modalan beaga, no ma tha ùidh agad an luchd-luchdachadh dàta àbhaisteach agad fhèin a sgrìobhadh, lùban trèanaidh, no sreathan modail atharrachadh. Bheir e barrachd sùbailteachd agus smachd dhut air rèiteachaidhean, agus ga dhèanamh furasta rèiteachadh a leudachadh agus a ghnàthachadh gu prògramach.
  • Traa’ toirt a-steach Quickstart le NeMo 2.0 API
  • A’ gluasad bho NeMo 1.0 gu NeMo 2.0 API

Co-thaobhadh

• NeMo-Aligner [1] na ghoireas scalable airson co-thaobhadh modail èifeachdach. Tha taic aig an inneal airson algoirmean co-thaobhadh modail ùr-nodha leithid SteerLM, DPO, Ionnsachadh Neartachaidh bho Fios air ais Daonna (RLHF), agus mòran a bharrachd. Leigidh na h-algorithms sin le luchd-cleachdaidh modalan cànain a cho-thaobhadh gus a bhith nas sàbhailte, gun chron agus nas cuideachail.
• Tha na puingean-seicidh NeMo-Aligner uile co-chòrdail ri eag-shiostam NeMo, a’ ceadachadh tuilleadh gnàthachaidh agus cleachdadh co-dhùnaidhean.

Sruth-obrach ceum air cheum de na trì ìrean de RLHF air modal beag GPT-2B:

• SFT trèanadh
• Duais trèanadh modail
• PPO trèanadh

A bharrachd air an sin, tha sinn a’ nochdadh taic do ghrunn dhòighean co-thaobhadh ùr-nodha eile:

• DPO: algairim co-thaobhadh aotrom an coimeas ri RLHF le gnìomh call nas sìmplidh.
• Fèin-chluich Mion-ghleusadh (SPIN)
• SteerLM: innleachd stèidhichte air suidheachadh-SFT, le toradh a ghabhas a stiùireadh.

Thoir sùil air na sgrìobhainnean airson tuilleadh fiosrachaidh: Sgrìobhainnean Co-thaobhadh

Modailean ioma-mheadhain

• Tha NeMo Framework a’ toirt seachad bathar-bog làn-leasaichte gus modalan ioma-modal ùr-nodha a thrèanadh agus a chleachdadh thar grunn roinnean: Modalan Cànain Ioma-mhodhail, Bunait Lèirsinn-Cànain, modalan Teacsa-gu-Ìomhaigh, agus nas fhaide na 2D Generation a’ cleachdadh Neural Radiance Fields (NeRF).
• Tha gach roinn air a dhealbhadh gus frithealadh air feumalachdan sònraichte agus adhartasan san raon, a’ cleachdadh mhodalan ùr-nodha gus raon farsaing de sheòrsan dàta a làimhseachadh, a’ toirt a-steach teacsa, ìomhaighean, agus modalan 3D.

Cleachdadh agus Co-dhùnadh
Tha NeMo Framework a’ toirt seachad diofar shlighean airson co-dhùnadh LLM, a’ frithealadh air diofar shuidheachaidhean cleachdaidh agus feumalachdan coileanaidh.

Cleachd le NVIDIA NIM

• Bidh NeMo Framework a’ fighe a-steach gu sgiobalta le innealan cleachdadh modail ìre iomairt tro NVIDIA NIM. Tha an aonachadh seo air a stiùireadh le NVIDIA TensorRT-LLM, a’ dèanamh cinnteach à co-dhùnadh làn-leasaichte agus scalable.
• Airson tuilleadh fiosrachaidh mu NIM, tadhail air an NVIDIA weblàrach.

Cleachd le TensorRT-LLM no vLLM

• Bidh NeMo Framework a’ tabhann sgriobtaichean agus APIan gus modalan às-mhalairt gu dà leabharlann làn-cho-dhùnaidh, TensorRT-LLM agus vLLM, agus gus am modal às-mhalairt a chleachdadh leis an NVIDIA Triton Inference Server.
• Airson suidheachaidhean a dh ’fheumas coileanadh as fheàrr, faodaidh modalan NeMo luathachadh a dhèanamh air TensorRT-LLM, leabharlann sònraichte airson luathachadh agus àrdachadh co-dhùnadh LLM air NVIDIA GPUs. Tha am pròiseas seo a’ toirt a-steach a bhith ag atharrachadh mhodalan NeMo gu cruth a tha co-chosmhail ri TensorRT-LLM a’ cleachdadh modal nemo.export.
  • Cleachdadh LLM thairisview
  • Cleachd Modalan Cànain Mòr NeMo le NIM
  • Cleachd Modalan Cànain Mòr NeMo le TensorRT-LLM
  • Cleachd Modalan Cànain Mòr NeMo le vLLM

Modalan le taic

Modailean mòra cànain

Modailean mòra cànain

Modailean mòra cànain	Pretraining & SFT	PEFT	Co-thaobhadh	Co-chruinneachadh Trèanaidh FP8	TRT/TRTLLM	Tionndaidh gu & Bho Hugging Face	Luachadh
Lama3 8B/70B, Lama3.1 405B	Tha	Tha	x	Tha (air a dhearbhadh gu ìre)	Tha	An dà chuid	Tha
Measgachadh 8x7B/8x22B	Tha	Tha	x	Tha (gun dearbhadh)	Tha	An dà chuid	Tha
Nemotron 3 8B	Tha	x	x	Tha (gun dearbhadh)	x	An dà chuid	Tha
Nemotron 4 340B	Tha	x	x	Tha (gun dearbhadh)	x	An dà chuid	Tha
Baichuan2 7B	Tha	Tha	x	Tha (gun dearbhadh)	x	An dà chuid	Tha
ChatGLM3 6B	Tha	Tha	x	Tha (gun dearbhadh)	x	An dà chuid	Tha
Gemma 2B/7B	Tha	Tha	x	Tha (gun dearbhadh)	Tha	An dà chuid	Tha
Gemma2 2B/9B/27B	Tha	Tha	x	Tha (gun dearbhadh)	x	An dà chuid	Tha
Mamba2 130M/370M/780M/1.3B/2.7B/8B/ Hybrid-8B	Tha	Tha	x	Tha (gun dearbhadh)	x	x	Tha
Phi3 mini 4k	x	Tha	x	Tha (gun dearbhadh)	x	x	x
Qwen2 0.5B/1.5B/7B/72B	Tha	Tha	x	Tha (gun dearbhadh)	Tha	An dà chuid	Tha
StarCoder 15B	Tha	Tha	x	Tha (gun dearbhadh)	Tha	An dà chuid	Tha
StarCoder2 3B/7B/15B	Tha	Tha	x	Tha (gun dearbhadh)	Tha	An dà chuid	Tha
BERT 110M/340M	Tha	Tha	x	Tha (gun dearbhadh)	x	An dà chuid	x
T5 220M/3B/11B	Tha	Tha	x	x	x	x	x

 

Modailean Cànain Vision

 

A 'toirt a-steach Modalan

 

Modailean Bunait na Cruinne

Thoir an aire
Bidh NeMo cuideachd a’ toirt taic do ro-thrèanadh airson an dà chuid ailtireachd sgaoilidh agus fèin-ghluasadach text2world modalan bunaiteach.

Òraid AI

Tha leasachadh mhodalan AI còmhraidh na phròiseas iom-fhillte a tha a’ toirt a-steach a bhith a’ mìneachadh, a’ togail agus a’ trèanadh mhodalan ann an raointean sònraichte. Mar as trice bidh am pròiseas seo ag iarraidh grunn thursan gus ìre àrd de mhearachd a ruighinn. Bidh e gu tric a’ toirt a-steach ioma-aithrisean gus fìor chruinneas a choileanadh, mion-sgrùdadh air diofar ghnìomhan agus dàta a tha sònraichte don raon, a’ dèanamh cinnteach à coileanadh trèanaidh, agus ag ullachadh mhodalan airson cleachdadh co-dhùnaidhean.

Tha NeMo Framework a’ toirt taic do thrèanadh agus gnàthachadh mhodalan Speech AI. Tha seo a’ toirt a-steach gnìomhan leithid Aithneachadh Òraid fèin-ghluasadach (ASR) agus synthesis Text-To-Speech (TTS). Tha e a’ tabhann eadar-ghluasad rèidh gu cleachdadh cinneasachaidh aig ìre iomairt le NVIDIA Riva. Gus luchd-leasachaidh agus luchd-rannsachaidh a chuideachadh, tha NeMo Framework a’ toirt a-steach puingean-seicidh ro-thrèanadh ùr-nodha, innealan airson giullachd dàta cainnt ath-riochdachadh, agus feartan airson sgrùdadh agus mion-sgrùdadh eadar-ghnìomhach air stòran-dàta cainnt. Tha na pàirtean de Fhrèam NeMo airson Òraid AI mar a leanas:

Trèanadh agus Gnàthachadh
Ann am Frèam NeMo tha a h-uile dad a dh’ fheumar gus modalan cainnte a thrèanadh agus a ghnàthachadh (ASR, Seòrsachadh cainnt, Aithneachadh Labhraiche, Diaradh Labhraiche, agus TTS) ann an dòigh ath-ghinte.

Modalan ro-thrèanadh SOTA

• Tha NeMo Framework a’ toirt seachad reasabaidhean ùr-nodha agus puingean-seicidh ro-thrèanadh de ghrunnan ASR agus TTS modailean, a bharrachd air stiùireadh air mar a luchdaicheas iad iad.
• Innealan labhairt
• Tha NeMo Framework a’ toirt seachad seata innealan a tha feumail airson modalan ASR agus TTS a leasachadh, a’ gabhail a-steach:
  • Aligner èiginneach NeMo (NFA) airson a bhith a’ gineadh ìre tòcan-, facal-agus earrann-ìreamps cainnt ann an claisneachd a’ cleachdadh mhodalan Aithneachadh Òraid fèin-ghluasadach stèidhichte air CTC aig NeMo.
  • Pròiseasar Dàta Òraid (SDP), inneal airson giollachd dàta cainnte a dhèanamh nas sìmplidhe. Leigidh e leat gnìomhachd giollachd dàta a riochdachadh ann an config file, a’ lughdachadh còd boilerplate agus a’ ceadachadh ath-riochdachadh agus comas roinneadh.
  • Òraid Dàta Explorer (SDE), a Dash-stèidhichte web tagradh airson sgrùdadh agus mion-sgrùdadh eadar-ghnìomhach air stòran-dàta cainnt.
  • Inneal cruthachadh stòr-dàta a bheir seachad comas-gnìomh gus claisneachd fada a cho-thaobhadh files leis na tar-sgrìobhaidhean co-fhreagarrach agus gan roinn ann am pìosan nas giorra a tha freagarrach airson trèanadh modail Aithneachadh Òraid fèin-ghluasadach (ASR).
  • Inneal Coimeas airson Modalan ASR gus coimeas a dhèanamh eadar ro-innse mu dhiofar mhodalan ASR aig ìre mionaideachd fhaclan agus ìre cainnte.
  • Measadair ASR airson measadh a dhèanamh air coileanadh mhodalan ASR agus feartan eile leithid Voice Activity Detection.
  • Inneal normalachaidh teacsa airson teacsa a thionndadh bhon chruth sgrìobhte gu riochd labhairteach agus a chaochladh (me “31mh” vs “trithead’s a’ chiad).
• An t-slighe gu cleachdadh
• Faodar modalan NeMo a chaidh a thrèanadh no a ghnàthachadh a’ cleachdadh Frèam NeMo a bharrachadh agus a chleachdadh le NVIDIA Riva. Bidh Riva a’ toirt seachad soithichean agus clàran Helm air an dealbhadh gu sònraichte gus na ceumannan airson cleachdadh putan putaidh a dhèanamh fèin-ghluasadach.

Goireasan Eile

Repos GitHub

• NeMo: Am prìomh ionad-tasgaidh airson Frèam NeMo
• NeMo–Ruith: Inneal airson na deuchainnean ionnsachaidh inneal agad a rèiteachadh, a chuir air bhog agus a riaghladh.
• NeMo-Aligner: Inneal scalable airson co-thaobhadh modail èifeachdach
• Neach-glèidhidh NeMo: Inneal ro-ghiollachd agus leigheas dàta so-ruigsinneach airson LLMn

A' faighinn Cobhair
Dèan conaltradh le coimhearsnachd NeMo, faighnich ceistean, faigh taic, no thoir cunntas air biastagan.

• Còmhraidhean NeMo
• Cùisean NeMo

Prògramadh Chànanan agus Frèamaichean

• Python: Am prìomh eadar-aghaidh airson NeMo Framework a chleachdadh
• Pytorch: Tha NeMo Framework air a thogail air mullach PyTorch

Ceadan

• Tha cead aig NeMo Github repo fo chead Apache 2.0
• Tha Frèam NeMo air a cheadachadh fo AONTAICH PRODUCT NVIDIA AI. Le bhith a’ tarraing agus a’ cleachdadh an t-soithich, tha thu a’ gabhail ri teirmichean is cumhaichean a’ cheadachais seo.
• Ann an soitheach NeMo Framework tha stuthan Llama a tha air an riaghladh le Aonta Cead Coimhearsnachd Meta Llama3.

Notaichean-coise
An-dràsta, tha taic NeMo Neach-glèidhidh agus NeMo Aligner airson modalan Multimodal na obair a’ dol air adhart agus bidh e ri fhaighinn a dh’ aithghearr.

Ceistean Cumanta

C: Ciamar a nì mi sgrùdadh a bheil an so-leòntachd a’ toirt buaidh air an t-siostam agam?
A: Faodaidh tu dèanamh cinnteach a bheil buaidh air an t-siostam agad le bhith a’ dearbhadh an dreach den NVIDIA NeMo Framework a chaidh a chuir a-steach. Ma tha e nas ìsle na dreach 24, dh’ fhaodadh gum bi an siostam agad so-leònte.

Q: Cò thug cunntas air cùis tèarainteachd CVE-2025-23360?
F: Chaidh aithris air cùis tèarainteachd le Or Peles - JFrog Security. Tha NVIDIA ag aithneachadh na chuir iad ris.

C: Ciamar a gheibh mi fios san iris tèarainteachd san àm ri teachd?
A: Tadhail air duilleag Tèarainteachd Bathar NVIDIA gus fo-sgrìobhadh a dhèanamh airson fiosan iris tèarainteachd agus gus fios fhaighinn mu ùrachaidhean tèarainteachd toraidh.