首页 > 体育知识 > 体育知识 > OpenAI员工发表公开信,警示人工智能监管缺失风险

OpenAI员工发表公开信,警示人工智能监管缺失风险

发布时间:2024-06-06 17:09:57来源: 152102

美国开放人工智能研究中心(OpenAI)和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信,对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。


据多家外媒援引信件报道,这些员工认为,人工智能企业受利益驱使缺乏有效监管,现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。

信件指出,外部人士对上述风险中的大部分不知情,因为人工智能企业“目前只承担与政府分享部分相关信息的微弱义务,也没有义务与公民社会分享信息”,“我们不认为能全然依靠企业自愿分享信息”。

信件还指出,一般的法律保护对人工智能行业“吹哨人”而言“不够”,因为不少引人担忧的风险在法律监管方面仍属空白。另外,人工智能企业员工受制于保密协议,通常不得对外实质性披露企业所掌握的人工智能实力。

联名信签署人中,2人与“深层思维”有关,4名OpenAI现员工要求匿名。组织者包括OpenAI前工程师丹尼尔·齐格勒和前员工丹尼尔·科科塔耶罗。

齐格勒4日告诉美联社记者,他2018年至2021年在OpenAI工作时参与聊天机器人ChatGPT部分技术研发,当时不担心在企业内部讲出他发现的问题,但他现在担心,行业内企业竞相将相关技术迅速商业化会让它们承受忽视风险的压力。“相较于责备OpenAI,我更感兴趣的是借此机会让全部人工智能前沿企业切实投入,强化监管和透明度,增进公众信任。”

科科塔耶罗则发表书面声明说,他今年早些时候离职,是对OpenAI“能采取负责任行为丧失希望”,特别是在企业尝试打造通用人工智能系统之后。对于这类功能强大、却又鲜为人熟知的技术,企业“快速出手、打破常规”,行事方式与所需“恰恰相反”。

OpenAI同一天回应联名信时强调,已设立匿名举报热线和安全委员会保护“吹哨人”,相信能以科学方法应对风险。

体育知识更多>>

王俊升任兵装集团副总经理 谁将接任长安汽车总裁? 谁说“10万以内无精品”?埃安UT用实力破除谣言 奥迪全新A6L e-tron路试谍照曝光:专属加长设计,预计年内亮相并上市 车企2025年产品规划曝光,肉搏血拼的年代已至? 马自达计划在日本建电动汽车电池工厂,预计年产能10GWh 20万级超高性价比硬派越野车,除了坦克300还有谁? 极氪亮相2025年CES,持续引领中国科技新浪潮 长城皮卡连续27年销量第一 深耕用户共创引领皮卡文化向上 荣耀GT评测:两千块,能用五年,老百姓直呼:良心 一加新机发布,放弃氢OS的背后,究竟是无奈还是选择? vivo Y29正式发布 天玑6300+5500mAh电池 1199元起 索尼SIE吉田修平2024最喜欢独立游戏:《幻兽帕鲁》《小丑牌》等 1999元起!180万跑分+6500mAh,红米这新机有意思! 小米新平板部分配置曝光 配备等效12000mAh电池+120W快充 华为每年投入高额研发,到底有多厉害? OPPO A5 Pro评测:“传奇”回归 坚如磐石 2024年广东湛江廉江市纪律检查委员会招聘政府雇员公告 2024年江苏无锡市公路事业发展中心选聘事业单位工作人员2人公告 2024年广东阳江市妇幼保健院招聘第二批工作人员方案 2025年广东梅州平远县教育系统进校园招聘急需紧缺学科教师28人公告 广东省阳江市市直有关学校引进高层次(急需紧缺)人才107人公告 2025年广东茂名化州市赴高校现场招聘中学(中职)教师100人公告(第一批) 2025年天津市农业科学院招聘20人公告 2024下半年四川阿坝州级事业单位选调115人公告 2024年广东广州航海学院招聘专职辅导员10人公告 2024年市场监管总局直属事业单位招聘中层干部公告 2025年中央党校(国家行政学院)教师岗位招聘24人公告 2025年中央党校(国家行政学院)职员岗位_其他专业技术岗位招聘3人公告 浙江温州平阳县信访局招聘编外人员公告 浙江宁波市12345政务服务热线中心热线工作人员招聘10人简章