2025-01-24 簡訊 : DeepSeek如何改進了Transformer架構


頭條


DeepSeek如何改進了Transformer架構

https://epoch.ai/gradient-updates/how-has-deepseek-improved-the-transformer-architecture

DeepSeek是僅有的在生成模型底層架構上穩健創新的開源模型供應商之一。具體而言,其研究進展并非靠蠻力取得,而是源自那些清楚了解Transformer原理并基于此開展工作的團隊 。

Mistral 的首次公開募股計劃

https://finance.yahoo.com/news/buzzy-french-ai-startup-mistral-133915078.html

法國人工智能初創公司米斯特拉爾(Mistral)計劃進行首次公開募股,而非被收購。它已籌集大量資金,完全有能力繼續在全球提供服務,尤其是面向歐洲公司。

英偉達的 STEREO

https://nvlabs.github.io/FoundationStereo/

英偉達提出一種新方法,將基礎模型與立體匹配技術相結合,以增強機器人和自動駕駛汽車的3D感知能力。


研究


地標定位工具包

https://arxiv.org/abs/2501.10098v1

這篇論文介紹了“landmarker”,它是一個基于PyTorch構建的Python軟件包,為開發和評估地標定位算法提供了靈活的工具集。

具身基礎模型

https://2toinf.github.io/UniAct/

UniAct是一種全新的具身基礎建模框架,可在通用動作空間中運行。

海豚3.0(Hugging Face平臺)

https://huggingface.co/cognitivecomputations/Dolphin3.0-Llama3.1-8B

基于Llama 3.1 8B構建的新Dolphin模型,經過訓練可通過系統提示接收指令。這意味著它在各種角色塑造和角色扮演方面表現出色,同時還保留了基礎Llama模型本身的諸多能力。


工程


外科基礎模型(GitHub 倉庫)

https://github.com/timjaspers0801/surgenet

SurgeNet是一種新型手術基礎模型,為手術計算機視覺設定了新標桿。

個人人工智能訓練師(GitHub代碼庫)

https://github.com/riccardoriccio/fitness-ai-trainer-with-automatic-exercise-recognition-and-counting

這個項目提供直觀的網頁界面,讓鍛煉記錄更輕松、更有效。

參數高效微調框架(GitHub 倉庫)

https://github.com/jiaqihuang01/DETRIS

DETRIS在采用密集互連和文本適配器的多模態任務中,為未對齊的編碼器增強視覺特征傳播。


其他


企業為何需要人工智能查詢引擎來推動智能代理式人工智能

https://blogs.nvidia.com/blog/ai-query-engines-agentic-ai/

人工智能查詢引擎能讓企業有效利用大量結構化和非結構化數據,彌合原始數據與人工智能應用之間的差距。它們具備多種數據處理、可擴展性、精準檢索和持續學習等先進特性,提升了人工智能智能體的能力。像DataStax這樣的公司已在借助這些引擎,為客戶服務、視頻搜索和軟件分析等領域的應用提供支持 。

OpenAI #10:思考

https://thezvi.substack.com/p/openai-10-reflections

山姆·奧特曼談及他意外被OpenAI董事會解雇一事,并反思其對公司治理和自身領導的影響。他回應了對OpenAI戰略的批評,強調公司目標是安全地逐步實現通用人工智能(AGI),同時承認有高層離職。奧特曼分享了對AGI潛在風險的看法,并暗示到2025年實現人工智能與勞動力的融合,堅稱OpenAI仍專注于打造超級智能系統以推動未來繁榮。

谷歌研究人員僅通過兩小時訪談就能打造出思維與你極為相似的人工智能

https://gizmodo.com/google-researchers-can-create-an-ai-that-thinks-a-lot-like-you-after-just-a-two-hour-interview-2000547704

斯坦福大學的研究人員創建了人工智能代理,通過專門設計的界面采訪1052人,能以85%的準確率復制人類行為。這項與谷歌DeepMind合作的研究表明,這些代理可以通過模擬對政策和產品發布的反應,幫助決策者了解公眾意見。雖然人工智能代理在性格測試中表現出色,但在經濟游戲中復制人類決策時卻遇到了困難。

準備好迎接能與Twitch主播聊天并控制其直播的虛擬人工智能搭檔吧

https://www.theverge.com/2025/1/6/24335356/virtual-ai-intelligent-streaming-assistant-inworld-streamlabs-nvidia

Inworld AI、Streamlabs和英偉達將為直播主播推出一款人工智能助手,提供實時技術支持,并擔任懂游戲的聯合主持人。

微軟在Hugging Face上把強大的Phi-4模型完全開源了

https://links.tldrnewsletter.com/V3b9dN

微軟已在Hugging Face上開源其Phi-4模型,該模型因在推理任務中的高效性和高性能而受到稱贊。

人工智能利用喉嚨振動來弄清楚人們想說什么

https://www.newscientist.com/article/2458385-ai-uses-throat-vibrations-to-work-out-what-someone-is-trying-to-say/

人工智能可通過解讀喉部振動,幫助中風和帕金森病患者進行交流。

?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 227,837評論 6 531
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 98,196評論 3 414
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 175,688評論 0 373
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 62,654評論 1 309
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 71,456評論 6 406
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 54,955評論 1 321
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,044評論 3 440
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,195評論 0 287
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 48,725評論 1 333
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 40,608評論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 42,802評論 1 369
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,318評論 5 358
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,048評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,422評論 0 26
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,673評論 1 281
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,424評論 3 390
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 47,762評論 2 372

推薦閱讀更多精彩內容