text size
Microsoft je predstavil BitNet b1.58, nov odprtokodni velik jezikovni model (LLM), optimiziran za učinkovitost namesto velikosti. V industriji, kjer že dolgo prevladujejo vse večji AI modeli, BitNet nakazuje novo fazo konkurence: narediti več z manj. BitNet b1.58 uporablja kombinacijo ternarne kvantizacije uteži (-1, 0, +1) in 8-bitne kvantizacije aktivacij, kar močno zmanjša računske zahteve modela. Namesto običajnih 16-bitnih ali 32-bitnih zapisov z lebdečo vejico BitNet uporablja bolj stisnjene reprezentacije, kar omogoča učinkovito delovanje tudi na osnovni potrošniški strojni opremi.
.webp){kind=icon}
