我今天整天都在瀏覽 Product Hunt。 大多數的產品發布看起來都很棒。 這個則是 𝗱𝗶𝗳𝗳𝗲𝗿𝗲𝗻𝘁。 𝗔𝗹𝗽𝗶𝗲 𝗖𝗼𝗿𝗲 今天正在趨勢中,但真正的故事不是截圖——而是發生在 𝘂𝗻𝗱𝗲𝗿 引擎蓋下的事情。 一個 𝟯𝟮𝗕 𝗿𝗲𝗮𝘀𝗼𝗻𝗶𝗻𝗴 𝗺𝗼𝗱𝗲𝗹,能夠高效運行於 4-bit,專為那些實際上 𝘀𝗵𝗶𝗽 產品的人設計。不是另一個包裝器。不是以炒作為先的 AI。 在這個規模下,它無疑是我遇到過的 𝗺𝗼𝘀𝘁 𝘀𝗲𝗿𝗶𝗼𝘂𝘀 開源模型之一——尤其是當你考慮到 𝗲𝗳𝗳𝗶𝗰𝗶𝗲𝗻𝗰𝘆 和 𝗿𝗲𝗮𝗹-𝘄𝗼𝗿𝗹𝗱 可用性。 吸引我注意的地方: – 𝗦𝘁𝗿𝗼𝗻𝗴 推理和編碼性能 – 在低端 GPU 上 𝗦𝘂𝗿𝗽𝗿𝗶𝘀𝗶𝗻𝗴𝗹𝘆 高效 – 𝗢𝗽𝗲𝗻-𝘀𝗼𝘂𝗿𝗰𝗲,擁有真實的基準測試和可用的 API 你可以看出這是由關心 𝗰𝗼𝘀𝘁、𝗶𝗻𝗳𝗿𝗮 和 𝗰𝗼𝗻𝘁𝗿𝗼𝗹 的工程師所建造的——而不僅僅是演示。 他們在假期期間也悄悄地給建設者一些 𝗳𝗿𝗲𝗲 API 積分,這是一個不錯的舉動——但老實說,這個 𝘁𝗲𝗰𝗵 本身才是值得關注的原因。 如果你是一位建設者,這個值得一看 👇 好奇他們會把 𝗩2 帶到哪裡。 #AI #LLM #OpenSource #Developers #ProductHunt #MachineLearning #BuildInPublic #AlpieCore #AIInfrastructure