跳到主要內容

AI趨勢周報第167期:臉書新模型融合自監督和Transformer,不需標註資料還能揪出複製圖


臉書最近發表一款新演算法DINO,結合了自監督學習、不需標註訓練資料的優點,以及Transformer架構的自我注意力機制優勢。用DINO訓練出來的模型,不需任何標註資料,就能辨識圖片和影片中的物件,也能進行語意分割。特別的是,模型還能揪出複製圖,準確率達96.4%。


圖片來源: 

臉書


重點新聞(0430~0506)


臉書     自監督學習     Transformer  


臉書新模型融合自監督和Transformer,不需標註資料還能揪出複製圖


臉書聯手法國國家電腦科學研究院Inria,共同設計一套新訓練方法DINO,融合了自監督學習(Self-supervised learning)和Transformer的注意力機制優點,來訓練電腦視覺模型Vision Transformer(ViT),不需要標註資料就能完成訓練。用這個方法訓練出來的模型,能準確辨識圖片和影片中的物件,也能進行語意分割,完全不需標註資料。


臉書指出,近幾年AI突破性的成就來自兩大技術,也就是自監督學習和Transformer。自監督學習的好處是,AI模型能從未標註的資料中學習,省下標註所需的人力和時間成本。而Transformer的優點是,AI模型可從輸入值中,將注意力聚焦於所選的區域,來更有效率地推論。


於是,臉書結合這兩大技術,設計出DINO演算法。他們將自監督學習的兩大優點:老師網路(Momentum teacher)和多剪裁訓練(Multicrop training)整合到DINO框架中,來搭配ViT的自我注意力優勢。團隊發現,融合自監督學習和Transformer的DINO,對視覺世界的理解和人類很像,能辨識出物件的部分組成和圖片中的共同特徵;他們以ImageNet不同類別的影像來測試,發現DINO會以人能理解的方式,來分類影像,將相似的類別擺在一起。


這個方法,能讓模型快速執行k-NN分類任務,且不需要繁瑣的微調或學習分類器。在ImageNet的測試中,團隊也發現DINO比其他自監督學習模型還要好,而且,DINO還有能力識破複製圖和本尊的差異,未來可用於版權保護的偵測器上。



 AWS    DeepRacer    迷你賽車 


擴大推廣AI賽車活動,AWS決定開源迷你賽車DeepRacer模擬器


AWS宣布要開源迷你賽車DeepRacer的裝置軟體,開發者可進一步擴展DeepRacer功能,讓賽車裝置可執行更多行為。DeepRacer是一個雲端虛擬賽車模擬器,開發者可在雲端上訓練、調校ML模型,並載入到1/18大小的迷你自駕車,讓它在設計好的軌道中行駛,克服各種轉彎與直線道路組合。


DeepRacer所使用的機器作業系統ROS是用Ubuntu開發,而開源DeepRacer程式碼,可讓有Linux程式開發能力的開發者,創造出新的車輛用途,實現更多創意。開發者也可在社群媒體中,用#deepracerproject標籤分享自己的開發專案,AWS會將這些專案收集到DeepRacer GitHub Organization中,並在之後的部落格介紹。


  MIT    電腦視覺      材料壓力 


MIT新材料分析AI工具,靠一張外觀照片就能估算出材料壓力


麻省理工學院(MIT)開發一套AI,可用電腦視覺辨識材料內部結構圖,來快速計算材料部份特性,像是應力(Stress)與應變(Strain)值,省下繁瑣的物理計算。


MIT指出,一般來說,工程師需耗費大量時間來計算材料內力,就算有電腦輔助,還是會遇到長達數天甚至數月的模擬問題。為解決問題,研究團隊看上生成對抗網路(GAN),先使用上萬組圖像訓練網路,這些圖組由兩張圖組成,一張描繪材料內部在機械作用下的微觀結構,另一張則以顏色編碼標示該材料的應力和應變數值,讓AI網路反覆迭代,算出材料的幾何形狀和其所產生應力之間的關係。這個方法,讓AI只要看一張圖片,就能預測材質的內力,解決過去需要撰寫程式碼,求解偏微分方程式的麻煩。



  美國衛生部     AI策略     資料共享  


美國衛生部揭露未來醫療AI布局


美國衛生部AI長Oki Mek日前揭露美國衛生部未來醫療AI佈局,要執行今年1月提出的AI策略,共有4大目標,包括成立AI委員會和AI實踐社群、做好AI治理和法遵,以及建立沙盒,來衡量AI成效和成本。


進一步來說,美國衛生部一年有1.3兆美金預算,若以GDP排名來看,相當於全球第13大國。這個資金雄厚的衛生部,還有8萬多名職員來維持運作。在4大目標中,成立AI委員會的用意是做好AI發展所需的團隊合作。」再來,建立AI實踐社群是要交換AI實作心得、制定醫療AI規則,還要以此克服醫療AI的兩大難題,也就是資料取得和資料準備。


而第3個目標是要確保醫療AI不違背法規,比如資料隱私、資安、程式碼偏差等。最後一個目標則是建立研發能力R&D,除了要建立沙盒實驗環境,還要藉機集中化管理一些作業,比如AI工作管線(Pipeline)和框架,並將一些該去中心化的作業去中心化。Oki Mek更強調,衛生部也想藉AI策略,來改變人們不想分享資料的心態。「沒有資料,就沒有AI,」衛生部希望在合法的前提下,來與相關組織共享資料。



 商之器     UDE App     醫療影像  


商之器UDE App讓iPad Pro化身行動醫療影像伺服器,離線也能判讀影像


國內從事醫療影像儲存與傳輸及雲端醫療平臺開發的商之器,近期展示一款UDE App,能將iPad Pro平板電腦當成行動醫療影像伺服器,可在離線狀態下檢視乳房攝影影像,並由AI模型來輔助揪出乳房腫瘤。這個做法,可將原本需要2周以上的篩檢流程縮短為1周左右,目前已有一家北部醫學中心準備採用。


這套UDE App不僅獲得美國FDA第二級認證,也通過臺灣TFDA認證。商之器解釋,這款乳癌判讀AI是去年與資策會聯手開發,結合iPad Pro內建的CoreML技術,即使不連網,也能即時進行AI判讀,商之器表示,今年不只在國內落地UDE App,還要推廣到國外。



甲骨文  分析雲    機器學習  


甲骨文推出分析雲,強化ML可解釋性和自然語言搜尋資料特色


甲骨文日前推出分析雲服務( Oracle Analytics Cloud),強化了機器學習(ML)模型的可解釋性,使用者可查看影響模型決策的原因說明,比如,銀行拒絕給特定對象申請貸款,使用者可查看占比最重的原因。此外,使用者也能手動微調模型,來查看產出結果和變化。


而且,甲骨文分析雲也採用自然語言處理(NLP)技術,讓使用者用說的或打字就能查找所需的資訊,分析雲也會以自然語言方式回答。這是因為,甲骨文自建一套自然語言生成(NLG)引擎,可根據問題來掃描資料、圖表等,再組成答案給使用者。目前,該功能支援28種語言。


除此之外,甲骨文分析雲還有其他特點,包括自動化資料前處理、文本分析、關聯分析、圖表分析和客製化的地圖分析。其中,自動化資料前處理的意思是,由內建的資料分析引擎來對使用者資料掃描、取樣,找出潛在的資料質量問題,並主動通知使用者,比如對信用卡資訊等敏感訊息進行混淆處理等。除了這些特點,甲骨文分析雲也推出行動版應用程式,使用者也能在行動版上使用這些功能。



攝影/蘇文彬


圖片來源/MIT、AW、臉書、Nvidia、商之器、甲骨文


 AI趨勢近期新聞 


1. 疫情升溫!AI Labs社交距離App告訴你防疫最佳距離


2. 臉書發表半監督式學習新模型,影像辨識表現再突破


資料來源:iThome整理,2021年5月

https://www.ithome.com.tw/news/144208



Orignal From: AI趨勢周報第167期:臉書新模型融合自監督和Transformer,不需標註資料還能揪出複製圖

留言

這個網誌中的熱門文章

中國網友抱怨購入雲米AI智慧冰箱,螢幕都是蓋版廣告還關不掉(官方已發聲明回應)

這些年許多家庭陸續為家中換上了智慧家電,其中電冰箱除了知名的 LG 有具備顯示螢幕的智慧冰箱,在小米生態鏈企業中的雲米,其實也有多款配備超大觸控顯示螢幕的 AI 智慧冰箱產品。不過日前有中國網友在抱怨自己購入了雲米AI智慧冰箱,但螢幕喚醒總是充斥著各種廣告資訊還關不掉,且已經嚴重影響到生活。後來事件在網路上發酵後,雲米官方也發表聲明回應。 ▲圖片來源: 中國網友抱怨購入雲米AI智慧冰箱,螢幕都是蓋版廣告還關不掉(官方已發聲明回應) 大型智慧家電種類相當多,其中連冰箱也都已經有智慧冰箱多年了。購入這種冰箱門上配備大尺寸觸控螢幕的智慧冰箱,能透過螢幕資訊顯示料理食譜、烹飪教學甚至是網購買食材都可以完成,也讓居家料理生活看起來更聰明、更方便。但在中國日前有網友就抱怨自己購買了雲米配備觸控螢幕的 AI 智慧冰箱,點擊螢幕喚醒時卻出現各種廣告訊息。 ▲圖片來源: 也有網友戲稱「以為是買了電冰箱,結果想不到是把電梯廣告看板搬到家中」。 ▲電梯廣告看板示意圖,非雲米產品 起初,網友在網路上分享抱怨購買雲米智慧冰箱,卻發現大螢幕一直推送廣告資訊,甚至已經感到嚴重影響生活的程度。該網友表示表示在聯繫詢問客服人員廣告可關閉嗎?客服回應廣告無法關閉。後來詢問能儲值會員,能關閉廣告嗎?官方也就沒有再回覆。 隨後有網友分享了和雲米客服的對話截圖,雲米官方客服人員第一時間表示螢幕設定和電腦螢幕保護程式有點類似,在不使用時會推薦頁面廣告,也有很多其他功能,像是能看電視、聽歌和食譜,也能設定螢幕喚醒時間讓螢幕直接休眠。 ▲圖片來源: 臭氧機 的滅菌效果如何? 多加科技公司前身─多加企業社於2000年設立於高雄市,從事水處理、加水站設計規劃營運,以臭氧機、紫外線燈作水質淨化、殺菌設備 隨時健康喝好水,高品質 飲水機 ,優質安全有把關 瀚洋飲水機永續經營於雲嘉南高地區,我們堅持一貫的理念,強調服務品質及維護時效,採e化保養管理 選擇 示波器 的10 項考量因素 示波器的頻寬定義為訊號衰減3dB時的訊號頻率。若一台示波器頻寬不夠會導致看到的訊號失真,測試不準確。頻寬指標主要體現在衰減器與放大器的指標。即時取樣率體現出示波器的ADC的指標。取樣率通常要大於等於頻寬的4倍。 工業用攪拌機 哪裡有? SPXFLOW 斯必克...

智慧科技打造循環經濟! 竹市設「循環方舟、無人回收站」 用AI光學辨識自動分選4大類資源物

記者 張維倫/新竹市報導 新竹市政府偕同凡立橙股份有限公司(ECOCO)推出「無人智慧回收設備」,設置「循環方舟」1座、「無人回收站」9站,共18台智慧回收機。今(15)日於新竹SOGO百貨前廣場辦理「循環方舟、無人回收站」啟動記者會,副市長邱臣遠親自體驗資源回收自動化的循環方舟,並邀請市民朋友一同來感受智慧科技帶來便利有趣的回收行動,共創循環經濟的宜居永續城市。 邱副市長說明,市府與ECOCO合作循環經濟,導入智慧回收系統,透過AI光學辨識,自動分選並將瓶罐的體積壓縮為原本的1/8,每分鐘最快可回收42支瓶罐。「無人回收站」分佈在東、北、香山3個行政區,設置9站共18台智慧回收機,離市府最近的「循環方舟」,就設置在新竹SOGO百貨,竹市是第1個非六都設置大型智慧回收設備的城市,「循環方舟」是全國第1座可回收HDPE牛奶瓶材質的機台設備,也是全國第1座設置在百貨公司的大型智慧回收設備,容量高達2萬支寶特瓶。其餘智慧回收機,每台容量可達2,000支寶特瓶。  邱副市長指出,市府重視環保永續,利用智慧治理的科技力,推出各類精采有趣、節能減碳的環保活動,讓民眾在日常生活就能執行愛地球的具體行動,提高環境品質,同步落實淨零綠生活、聯合國永續發展目標SDG6環境品質。推出的循環方舟與無人回收站,從今年6月15日起至年底,回收設備可以24小時全天候自動辨識做回收,不僅節省民眾回收時間,也可減輕末端清運負荷,更可讓民眾實現資源再生和循環經濟,推動綠色生產和消費。 邱副市長說,市府在市長高虹安的帶領下,朝 2050淨零碳排目標前進,不管是綠色經濟、綠色生活、綠色學習和綠色交通,都是要來打造一個永續環保的安居科技城,ESG的推動,更重要的是培養市民綠色生活的態度,利用無人回收站、循環方舟,不僅促進竹市經濟發展,也能讓親子一起學習做環保,平日使用無人回收機做環保的同時搭配APP,累積集點獎勵兌換折價券,實踐環保循環經濟。 環保局長江盛任說明,「無人回收站」回收品項為寶特瓶、鋁罐、廢乾電池等3大類資源物,「循環方舟」回收品項為寶特瓶、鋁罐、廢乾電池、HDPE牛奶瓶等4大類資源物。「寶特瓶」指塑膠國際辨識碼第1類,2公升以內的飲料PET材質瓶罐。「HDPE牛奶瓶」指塑膠國際辨識碼第2類,2公升以內半透光材質瓶罐。廢電池回收種類共7款,包括1號到6號乾電池、方形9V乾電池。...

植樹遏止氣候變遷 科學家說成效被高估

科學家警告說,全球大規模植樹遏止氣候變遷風險的可能成效被高估。 今年7月,蘇黎世聯邦理工學院(ETH Zurich)柯勞瑟實驗室(Crowther Lab)的研究人員發布研究報告,提出控制氣候變化的最好方法,就是在面積與美國相當的被毀森林重新植樹。 但德國波昂大學(University of Bonn)和位於奈洛比的世界農林複合研究中心「世界混農林業中心」(World Agroforestry Center)的科學家,18日在期刊「科學」(Science)發表回應文指出,在原先研究中可以在土地上種植的樹木數量有限。 波昂大學作物科學與資源保育研究所(Institute of Crop Sciences and Resource Conservation)教授魯德林(Eike Luedeling)表示,植樹造林不應被視為減少使用化石燃料排放的替代方案。 本站聲明:網站內容來源於https://e-info.org.tw/,如有侵權,請聯繫我們,我們將及時處理 【其他文章推薦】 ※找工作! 想知道 堆高機 駕駛日薪是多少嗎? 哪裡有職缺?幫你快速媒合 ※隨時健康喝好水,高品質 飲水機推薦 ,優質安全有把關 ※ 防爆隔熱紙 規格資訊說明 ※好的茗茶,更需要密封性高的 茶葉罐 ,才能留住香氣! ※【找人才】台北 塑膠射出廠 徵選技師,薪資優,福利佳 ※各款 電動堆高機 價格? Orignal From: 植樹遏止氣候變遷 科學家說成效被高估