騰訊研究院AI速遞 20240704
生成式AI
一、 馬斯克豪擲10萬(wàn)張H100訓Grok 3,預告Grok 2下月上線(xiàn)
1. 馬斯克宣布將在8月推出Grok 2,并在年底推出使用10萬(wàn)張英偉達H100 GPU訓練的Grok 3;
2. Grok 2和Grok 3旨在通過(guò)創(chuàng )新的數據訓練方法解決AI模型的"人體蜈蚣效應",提升模型性能;
3. 投資40億美元購買(mǎi)H100 GPU,顯示xAI對AI技術(shù)競賽和高性能計算資源的重視。
021yin.com/s/bOXoYt7GbIJtp_UqUnYvzA
二、 贏(yíng)麻了!蘋(píng)果再獲OpenAI董事會(huì )觀(guān)察員席位!0元白嫖ChatGPT
1. 蘋(píng)果獲得OpenAI董事會(huì )觀(guān)察員席位,菲爾·席勒代表出任,無(wú)投票權但可深入了解公司決策;
2. 蘋(píng)果與OpenAI合作,將ChatGPT集成到其設備中,未來(lái)可能通過(guò)分成模式實(shí)現共贏(yíng);
3. 蘋(píng)果的觀(guān)察員角色使其與微軟在OpenAI的影響力上平起平坐,盡管兩者為主要競爭對手。
021yin.com/s/qNVXcQIKDzYsJbXy0v_eCA
三、 Meta最新3D Gen模型實(shí)現60倍速生成,重燃元宇宙的希望
1. Meta的3D Gen模型能在60秒內從文本直接生成高質(zhì)量3D資產(chǎn),速度比其他方法快3到60倍;
2. 3D Gen支持基于物理的渲染(PBR),提高了3D資產(chǎn)的再照明能力和視覺(jué)質(zhì)量;
3. 模型分為兩階段:AssetGen生成3D對象和紋理,TextureGen進(jìn)一步優(yōu)化紋理和PBR圖,提升細節和質(zhì)量。
021yin.com/s/klIvHE09KPRDG20YIvzW吉印通13816211622
四、 AI視頻獨角獸Runway新一輪估值40億美金,160倍ARR
1. Runway正在洽談以40億美元估值融資4.5億美元,由General Atlantic領(lǐng)投;
2. 該公司的年經(jīng)常性收入(ARR)為2500萬(wàn)美元,新估值是ARR的160倍,遠高于行業(yè)常規;
3. Runway面臨來(lái)自Pika、Luma AI以及OpenAI的Sora以及谷歌Veo等的激烈競爭。
021yin.com/s/njRJc_lGXMdHsUyMgdRCEw
五、 微軟開(kāi)源GraphRAG:極大增強大模型問(wèn)答、摘要、推理
1. 微軟開(kāi)源GraphRAG,通過(guò)構建超大知識圖譜,增強大模型在搜索、問(wèn)答、摘要和推理方面的能力;
2. GraphRAG通過(guò)兩階段構建基于圖譜的文本索引,先從文檔衍生實(shí)體知識圖譜,再生成社區摘要,提高信息檢索和生成的準確性;
3. 與傳統RAG相比,GraphRAG優(yōu)化了全局檢索能力,處理大規模數據集更高效,降低了對算力資源的需求。
021yin.com/s/TYIBSFGsowmZT3oabL0kkg
六、 騰訊元寶「深度搜索」,隨手吃個(gè)瓜,AI輸出完整研究報告
1. 騰訊元寶AI通過(guò)深度搜索模式,能在短時(shí)間內生成包含多個(gè)參考資料的詳盡研究報告;
2. AI不僅回答主題問(wèn)題,還能自動(dòng)擴展相關(guān)話(huà)題,提供結構化的信息如思維導圖和相關(guān)事件;
3. 深度搜索功能適用于復雜學(xué)術(shù)問(wèn)題,優(yōu)化了搜索的全面性和深入性,提供多維度分析。
021yin.com/s/16sRCXIKQogelYPKF2QTTg
七、 LoRA升級版!上交大上海AI Lab推出高效微調框架FLoRA
1. FLoRA方法由上海交通大學(xué)和上海AI Lab開(kāi)發(fā),使用Tucker分解優(yōu)化多維張量的低秩微調,保留了原參數的拓撲關(guān)系和交互性;
2. 相比LoRA,FLoRA在參數量減少80%的情況下,仍能達到相同的效果,適用于包括Conv2D層和Linear層在內的多種層;
3. FLoRA通過(guò)核張量模型維度間的關(guān)系,避免了傳統方法中因拆分參數而破壞結構的問(wèn)題,提高了多維參數微調的效率和效果。
021yin.com/s/x2NID0EsUiNLC5RJ01s-wg
八、 RAG的12個(gè)痛點(diǎn),英偉達高級架構師Wenqi Glantz親授解決方案
1. RAG技術(shù)通過(guò)從廣泛的文檔數據庫中檢索信息,提高了生成內容的準確性和相關(guān)性;
2. Wenqi Glantz提出了改善RAG的12個(gè)痛點(diǎn)的解決方案,涵蓋從數據清潔到重新排名的多個(gè)方面;
3. 解決方案包括優(yōu)化數據檢索參數、使用更佳的提示設計、以及實(shí)現更有效的重新排名和提取策略。
021yin.com/s/X3uBX2KEzbn8qVKFr9Zv9A
前沿科技
九、 人機融合即將成真!納米機器人殺死癌細胞,腫瘤生長(cháng)抑制70%
1. 瑞典卡羅林斯卡學(xué)院研究團隊開(kāi)發(fā)的DNA納米機器人在小鼠實(shí)驗中抑制腫瘤生長(cháng)70%,通過(guò)精確激活僅在腫瘤微環(huán)境中的“武器”實(shí)現靶向癌細胞;
2. 納米機器人采用DNA折紙技術(shù)構建,能在癌細胞特有的低pH值環(huán)境中觸發(fā),展開(kāi)結構釋放細胞毒性配體,誘導癌細胞凋亡;
3. 研究展示了DNA納米機器人在癌癥治療中的潛力,為未來(lái)人類(lèi)臨床試驗和癌癥治療方法提供了新方向。
021yin.com/s/t0zoCRc3YyL0hR8g0eW8xw
報告觀(guān)點(diǎn)
十、 對話(huà)騰訊混元劉煜宏:做大模型可以有「深圳速度」,但不能跳步
1. 騰訊混元大模型團隊采取內部?jì)?yōu)先策略,已接入近700個(gè)騰訊內部產(chǎn)品,通過(guò)實(shí)際應用來(lái)迭代和優(yōu)化模型;
2. 騰訊混元大模型負責人劉煜宏強調,盡管追求“深圳速度”快速發(fā)展,但在大模型的研發(fā)和應用上不能跳過(guò)必要的步驟和實(shí)驗;
3. 元寶App強調生產(chǎn)力而非娛樂(lè ),同時(shí)有開(kāi)放平臺元器支持用戶(hù)和開(kāi)發(fā)者創(chuàng )造多樣的智能體。
021yin.com/s/JJbpkmZeul0zsf_KHowoNg
??訂閱下方合集,獲取每日推送