BENEVO台灣部落格 之 科技應用。創新與分享

據外媒 The Verge 報導，近日，Google 旗下 AI 研發公司 DeepMind 宣布成立一個 AI 新部門 ，主要負責研究 AI 帶來的倫理問題和社會問題，如自動化給未來經濟帶來的影響等等。

據了解，新部門的主要目標是幫助技術人員將倫理應用於實踐，幫助社會預測 AI 的影響，並對其影響給予引導，確保 AI 造福人類。2016 年，DeepMind 開發的 AI 系統在圍棋棋盤上打敗世界頂尖選手，因而名聲大震。

DeepMind 為新部門命名為 DMES（DeepMind Ethics & Society：倫理和社會）。新部門將於 2018 年開始就這些課題目標進行研究。目前，該部門已有 8 名全職員工。不過，按照 DeepMind 的計劃，該部門的員工規模將在一年時間內增至 25 名左右。

為了壯大團隊，DeepMind 還從外部學術機構和慈善機構聘請一些顧問，為新部門提供諮詢服務，包括哥倫比亞大學發展學教授 Jeffrey Sachs、牛津大學 AI 教授 Nick Bostrom、氣候變化活動家 Christiana Figueres。

DMES 聯合主管 Verity Harding、Sean Legassick 在公告中表示，這些專家不只精通專業技術，還可以帶來多樣化的思考。同時，二位還表示，DMES 將幫助 DeepMind 探索和了解 AI 帶給現實世界的影響。

如果 AI 技術要服務於這個社會，那麼，其必須經受住社會的優先事項和關注重點的重塑的過程。

雷鋒網還了解到，新部門屆時還將與有著類似研究目標的學術團體合作，如紐約大學的 AI Now Institute 和劍橋大學未來智慧研究中心（Leverhulme Centre for the Future of Intelligence）等等。

事實上，2014 年 DeepMind 被 Google 收購時曾承諾要建立一個「AI 倫理委員會」。與新部門不一樣，該委員會主要用以監管公司的所有 AI 研究活動。不過，自收購以來該倫理委員會並沒有多大作為。特別是 2016 年，DeepMind 在與英國國民健康服務局（NHS）合作時，受到了公眾的大肆批評，這讓其進一步認識到 AI 倫理問題的重要性。

2015 年，DeepMind 和倫敦三家醫院達成合作，處理了其中 160 萬名患者的診療數據。2017 年，該行為被英國的數據監督機構判定為非法，因為該公司沒有通知到個人他們的數據已被使用。DeepMind 後來表示，他們低估了「NHS 的複雜性和患者數據的規則」，並聘請了新的獨立倫理審查員以監督未來的任何交易。

雖然 DMES 的成立主要是基於 DeepMind 對 AI 帶來的倫理問題的考慮和重視，但至目前為止，該公司的內部倫理審查員依然籠罩著神秘面紗。同時，據了解，新部門將與 DeepMind 的產品部門並行運營。未來，新部門聘請了哪些審查員，多久進行一次會議，主要討論哪些要點，又有哪些形式... 關於這些問題，只能在未來慢慢尋找答案。

Reference: https://www.inside.com.tw/2017/10/06/deepmind-ai-ethics-society-research-group