如果大家能達成共識,認為目前的 AI 能力範圍將會帶來好壞兩方面的影響,那麼我們就可以有更具體的努力(與更大範圍的生存討論並行)來讓好的東西惠及更多人,並減輕明顯的壞處。
好的方面:早期在教育中整合的 AI 輔導員的前景顯示,這裡的緊急努力可能會幫助世界各地的許多人,特別是在弱勢地區。 壞的方面:深偽技術需要受到監管,並且需要大規模努力使 AI 支持而不是傷害心理健康。
許多這些危害和好處都是可預見的,並且/或有早期的實證證據,現在的干預措施可能會帶來很多好處。對於AI有很多大局的長期擔憂,但我認為對於利用或減輕當前能力的關注不夠。
這些努力不應該僅僅由 AI 實驗室來負責,這似乎是目前的情況,歷史上這通常是政府、大學、非營利組織和產業共同合作以應對緊迫需求的經典案例。今天可以做的事情還有很多。
而當行業在核心問題上似乎有所進展時,例如OpenAI最近在心理健康危機方面的工作,這可能成為行業標準制定機構的基礎,而這些機構在新興行業的自我監管中歷來扮演著重要角色。
我想知道,AI領域缺乏自願性行業機構(如W3C、Unicode)是否是由於AI公司之間激烈(且常常是個人化的)競爭,或許這種情況因為缺乏自我規範標準的需求而加劇,因為目前尚未有太多監管壓力。
29.99K