Hi,你今天 LLM 了嘛?

ChatGPT 在去年 11 月底問世,一枝獨秀,連帶讓 LLM (Large Language Model) 成了一個 buzzword。幾個月後,有愈來愈多的應用與服務加入這場賽事:有採取小步快跑策略、擅長衝刺的短跑選手,像是幫國小國中生寫作業的 Socratic (致敬蘇格拉底) ;有擅長大規模賽、耐力見長的超馬跑者,如 Google PaLM 2 ;還有更多跟著跑,把領頭羊當配速員用,然後在後頭研究著可以在哪個彎道超車的 (參照 30 ChatGPT alternatives )。

第三期電子報 在開頭分享的一篇文章 “We Have No Moat, And Neither Does OpenAI ” 指出 Meta 的 LLaMA 這個開源模型的釋出 (INSIDE 中文報導 ),讓開源界與新創界的小步快跑選手開始在超車。但,就在上週,Meta AI 團隊自己也開始在超車,以研究論文的方式釋出了新的實驗模型 LIMA。LIMA 以較小的 LLaMA 65B 輔以一樣很少但精挑細選的 1,000 個 prompts 來達到接近 GPT4 或是 Bard 的水平了。 (論文 LIMA: Less Is More for Alignment )

我們正在見證一場 LLM 應用與服務的激烈競爭,我們既可以在賽道外看到最後一圈再下注,看有沒有壓對寶;也可以在旁熱身完後報名下場參賽,邊跑邊修正。端看我們想以怎樣的姿態加入。

同場加映。台灣時間 5/25 星期四的早上 10:30,由 Caltech 的 Yaser Abu-Mostafa 教授給的一個實體/線上的科普演講 “Artificial Intelligence: The Good, the Bad, and the Ugly”。 (活動頁面 )


Y Combinator’s W23 Investment Thesis Map for generative AI by CB Insights

YC W23 中,生成式 AI 新創佔比二成

Y Combinator 上一季孵化計劃 (Sumer 2022 batch) 中,有 11 家以生成式人工智慧 (generative AI) 為主軸的新創公司。僅僅過了 6 個月,在上個月剛出爐的最新孵化計劃 Winter 2023 batch 的新創中,就來到了 59 家,佔了整季 272 家公司中的 22%!

生成式人工智慧是新世界,就像當初 Facebook App 或 iOS App 剛興起時一樣

這 59 家 generative AI-based 新創,大多數都將這項熱門技術引入 B2B 企業應用領域,而非 B2C。經由 CB Insights 分類後,主要涵蓋的服務領域,佔比高到低為 engineering, sales, data & analytics。後面接著的,是更貼近我們的 video, image, voice,包括 Decoherence - Make AI Music Videos , Linum - Tools for AI Moviemaking , iliad.ai - 2D images into 3D voxel art 。 (原文 ) (YC W23 startup directory )


Google用拖拉式介面讓GAN更準確生成圖片 by AI趨勢周報第216期

DragGAN - 生成藝術 AI 算圖工具 + 小畫家

使用 Midjourney、niji・journey 或是 Stable Diffusion 家族來產生圖很酷。但如果產生出來的圖,就是還差那麼一點點,就符合你的預期的話呢?Google 與馬克斯普朗克研究院、MIT研究員,共同開發一款可精準生成圖片的模型 DragGAN,並在即將到來的 SIGGRAPH 2023 電腦圖學盛會上發表。很酷的是,DragGAN 提供了一個簡易的 UI 界面,讓你在產出來的圖上直接用滑鼠拖拉,就能請 AI 幫你修圖。

DragGAN := drag as you want + GAN (Generative Adversarial Network - 生成對抗網路)


Large-language models for automatic cloud incident management by Microsoft

Microsoft 試圖導入 GPT 3.x 做雲端服務的意外事件管理

Microsoft 首次展示了 LLM 在事件診斷中的效果。當一個 issue 票被建立時,作者會為每個事件指定一個標題,並描述任何相關細節,例如錯誤訊息、異常行為和其他可能有助於解決的細節。將事件的標題和摘要作為 LLM 的輸入,並生成根本原因和推薦的解決步驟。

On-call 工程師們給了 3 顆星以上 (總分 5 顆) 的分數認為 LLM 推薦的解法在 real-time production 環境上是很有用的。 (原文 )


星際大戰 與 魔戒 如果由 Wes Anderson 來導的話…

不太容易說明,直接看截圖與 YouTube 影片最快。

Star Wars by Wes Anderson Trailer | The Galactic Menagerie

Lord of the Rings by Wes Anderson Trailer | The Whimsical Fellowship


Technologies and Tools


Inside ARC

CVPR NTIRE 2023 VQA 競賽:淘寶奪冠,KK 第九

KK-ARC, from KKCompany Technologies, is ranked 9th within 61 participants.

第二期電子報 提到,我們在國際競賽 CVPR NTIRE VQA 初試啼聲,61 隊中拿了第 9。就在週一,意外的在香港矽谷/雷峰網看到有篇報導,非常開心。上圖第一名的 TB-VQA 就是淘寶團隊,代表我們的 KK-ARC 在第九。持續努力,做出更優秀的引擎出來 💪

引述其中一段內文:

當下短視頻、直播等 UGC 內容在互聯網平台被大量生產及傳播,受限於拍攝、編碼、傳輸及用戶收看環境等因素,整體質量層次不齊,如何通過技術手段系統有效地評價內容質量,並針對性優化就成為一項重要且緊迫的任務。 by 香港矽谷 / 雷峰網

SB-VQA in CVPR Workshop 2023

CVPR 2023 將在今年六月舉行,會由 2022 Tomorrow Lab Program 同學 Willy Huang 代表參加。他將帶著印有大大的 KKCompany 以及 國立臺灣大學 兩個 logo 的技術海報,與來自全世界投入做電腦視覺與影音相關技術的研究人員與技術人員互動。期待他之後回來的分享 😎