AI 模型縮小也能夠發揮功能

中央視

西班牙新創公司將AI模型縮小95%而不失去效能

        •        Multiverse Computing，一家西班牙AI初創公司，推出了世界上最小的高效能AI模型SuperFly和ChickBrain，使用量子啟發的壓縮技術CompactifAI將模型大小減少多達95%而不損失效能。

        •        SuperFly運行時具有9400萬個參數（從1.35億個壓縮而來），可以嵌入家用電器中進行語音指令，而ChickBrain具有32億個參數，實際上在多個基準測試中超越了Meta的Llama 3.1 8B模型，儘管體積小得多。

        •        這項突破使AI模型能夠在從智慧型手機到洗衣機等各種設備上離線運行，從依賴雲端轉向本地處理，提高隱私保護並降低成本。

        •        Multiverse在2025年6月的B輪融資中籌集了1.89億歐元，並與包括Apple、Samsung、Sony、HP、BASF和Bosch在內的大型公司建立了合作夥伴關係。

        •        壓縮模型透過AWS以API形式提供，允許開發者以具競爭力的token費用將其整合到應用程式中，目標鎖定1060億美元的AI推理市場。

為什麼這很重要

這項突破可能通過讓強大的模型在日常設備上無需互聯網即可運行來革命性地改變人工智能部署，在降低成本的同時增強隱私保護。它挑戰了行業向更大模型發展的趨勢，並為物聯網和消費電子產品開闢了新的可能性。