彭錞:生成式AI服务管理,需要考虑到第三方服务等现实业务需求
4月11日,网信办《生成式人工智能服务管理办法(征求意见稿)》发布并面向全社会公开征求意见。其中,《意见稿》第十一条提到,生成式AI服务的提供者在提供服务过程中,对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息,不得根据用户输入信息和使用情况进行画像,不得向他人提供用户输入信息。
北京大学法学院助理教授、牛津大学法学博士彭錞认为,《征求意见稿》释放了一个特别明显的讯号,就是关注生成式人工智能的产品或服务对用户个人信息的保护,明确了服务提供者对用户的输入信息和使用记录承担保护义务,通过“三个不得”的规定,为用户输入信息的处理活动使用划定了红线,积极回应了用户在使用新兴互联网服务过程中对隐私安全和个人信息保护的关切。
当然,在规定细节上还可以进一步优化,比如“不得向他人提供用户输入信息”,可能会抑制以可编程接口等方式接入第三方服务等现实业务需求,其目的是为了提供更好的用户体验,但也涉及第三方提供用户输入信息,故有必要设置相应的例外情况。
(本文作者系北京大学法学院助理教授、牛津大学法学博士彭錞)