Research

Ten Years of AI in Review 人工智慧每週都有新的進展，不管是研究、應用、新創或是企業級服務。如果我們研究這些發展，循著脈絡，挖掘出背後的技術堆疊，就能有一個可依靠的方法來得知其可能的優劣、限制與能耐。 ...

Hi，你今天 LLM 了嘛？ ChatGPT 在去年 11 月底問世，一枝獨秀，連帶讓 LLM (Large Language Model) 成了一個 buzzword。幾個月後，有愈來愈多的應用與服務加入這場賽事：有採取小步快跑策略、擅長衝刺的短跑選手，像是幫國小國中生寫作業的 Socratic (致敬蘇格拉底) ；有擅長大規模賽、耐力見長的超馬跑者，如 Google PaLM 2 ；還有更多跟著跑，把領頭羊當配速員用，然後在後頭研究著可以在哪個彎道超車的 (參照 30 ChatGPT alternatives )。 ...

Google “We Have No Moat, And Neither Does OpenAI” AI 領域的研究與技術進展很快而且振奮人心（例如 Tesla 的電動車、OpenAI 的 ChatGPT），以它為首的第四次工業革命正在發生中。但就在上週，紐約時報報導有「AI 教父」之稱的 Geoffrey Hinton 結束了與 Google 十年的合作，他將更專注於 AI 對社會的威脅。Hinton 事後在推特上表示：「我離開了，這樣我在討論 AI 的危險時，才能不必考慮對 Google 的影響。Google 一直都對它的行為很負責任。」 ...

“Hi” from AI Research Report Hey! 在這個技術蓬勃發展和人工智能興起的時代，我們與所有人一樣，每天不停歇地研究和學習新事物，從中找到可以立即用在手邊任務，或是在下一個計畫派上用場的技術。有一天，一個點子湧入討論中：“要不要定期與所有同事們分享、討論與研究，像是來一份有關人工智慧技術的社內電子報試試？” 因此，有了這第一期電子報，啟動此項實驗計劃。 ...

一個多禮拜前，Andrej Karpathy 發佈了一則 tweet，它的開頭是這麼寫的： The ongoing consolidation in AI is incredible. When I started ~decade ago vision, speech, natural language, reinforcement learning, etc. were completely separate; You couldn’t read papers across areas - the approaches were completely different, often not even ML based. ~tweet AI，正在朝向一個大一統的方向前進。 大約十多年前，當我開始投入做研究時， 電腦視覺，電腦語音，自然語言，強化學習……等這些領域， 還處於彼此很不一樣的時候。 就是說，你不太容易讀到同時跨這些領域的研究論文。 大部分的時候，每個領域的研究人員提出來的研究方法與演算法，都非常不同。 而且，也幾乎很少有基於幾器學習的研究論文被應用在這些領域。 ...

Research by Stuart 研究本來就是探索未知的事，大多數你們問我的問題，我也不知道答案，很多時候要由做中去學，許多看似沒什麼可做的問題通常最後都能找到新的價值和觀點，不過如果不去做，不將自己浸淫在問題中，就永遠不知道有什麼可能性。另外要不畏懼，論文並非高高在上不可挑戰的，論文也是人做出來的，有些就是你的學長們做出來，沒有道理你不能做得比他好，請千萬不要有我怎麼可能做得比他們好的想法。 ...

開始加速，朝向產業界應用導向，的一個樣貌。 這個世界的大多數問題，都有機會變成一個推薦問題。 過去有名的 CF & MF 還是很紅，但也開始被新進者 NN 蠶食中。 很容易看到 xNN。 你想不到的產業應用都有：時尚、電子信件廣告、徵人啟事、… CF+MF 依舊是非常好用的第一招。 RecSys with users’ reviews > CF+MF, that’s proven. DL/ML with more data > ooxx with users’ reviews > CF+MF, working in progress. No holy grain for all kinds of applications yet. Facebook 把聊天機器人當作一個 RecSys 來看待中~ https://www.flickr.com/photos/drakeguan/albums/72157685462496061

可惜，SIGGRAPH 2017 的投稿摃龜了~只好再接再厲了！ Important Information Regarding Your Submission Dear Shuen-Huei, Thank you very much for submitting your work to the SIGGRAPH 2017 Computer Animation Festival. We regret to inform you that your submission, caf_0135, entitled “None” has not been accepted. We appreciate your participation and look forward to future submissions of your work. Thank you for the time, energy, and effort you invested in this submission. Although we were unable to include your submission this year, we still look forward to seeing you at the SIGGRAPH 2017 conference. ...