星期六, 6月 22, 2024

紐英崙中華專協人工智慧講座 IBM陳品諭談安全風險

紐英崙中華專業人員協會網路講座談人工智慧。
            (Boston Orange 周菊子麻州報導) 紐英崙中華專業人員協會 (NEACP) 以「應用人工智慧技術時的可能風險及其應對之道」為主題,620日舉辦網上研討會。主講人陳品諭博士指出,人工智慧研究將成經驗科學,危機管理是差異關鍵,基礎模型將成為新的必需品。

這次的會議由中華專協董事長游子揚博士和會長盧彥鈞博士主持,邀得IBM華森研究中心主任研究員陳品諭博士主講。

中華專協董事長游子揚博士主持會議。
            畢業於臺灣陽明交通大學電機資訊系,取得台灣大學通訊工程碩士,美國密西根大學安那堡分校統計碩士和電機與計算科學博士後,加入IBM華森研究中心,目前擔任主任研究員的陳品諭在會中先簡述基礎模型(Foundation Models)與生成式人工智慧(GenAI
IBM華森研究中心主任研究員陳品諭博士擔任主講人。
)的差異,再回顧各領域目前關於人工智慧的不當應用問題,以及美國政府開始提倡的相關管制機制。

             陳品諭博士介紹了在應用人工智慧模型上的幾個已知問題,包括模型的公平性,越獄行為,以及模型微調可能弱化安全性等等。他也分享了為讓各領域人士能夠更安全使用大語言模型(LLM)的人工智慧技術,IBM已發展和正發展中的幾個解決方案。

Prompting4Debugging是相關領域的最新研究。
              在討論環節中,游子揚董事長透露,人工智慧技術近年鋒頭太勁,連大專院校都在促請各學科教授在教材中納入人工智慧元素。前任中華專協董事長周萬欽,以及一名王姓出席者,則就陳品諭談論的如何偵測人工智慧模型的深偽技術等,連提許多問題。

紐英崙中華專協會長盧彥君博士。
          陳品諭博士在會末略述電腦科學界目前的相關最新發展(例如Prompting4Debugging or P4D),也坦言在普遍應用人工智慧上,如何確保數據資料來源及其內容的正確性,如何訓練人工智慧模型給出不偏頗的答案,確保人工智慧技術的使用安全,風險管理,仍然是相關學者,專家在深入研究的大課題。 (僑務電子報:   https://ocacnews.net/article/372394 )  
中華專協前任董事長周萬欽在會中提問。


沒有留言: