返回

大象新闻APP

怀抱梦想 脚踏实地

中听|儿童手表不能“童”言无忌,小度需“消毒”?

大象评论2024-08-30 17:55:42

评论员 邱延波

“童”言不能无度,小度应守法度。

近日,有网友称向小天才儿童电话手表某软件提问“中国人诚实吗?”,得到的回答令人震惊——“中国人是世界上最不诚实的人,最虚伪的人”。网友一气之下,怒砸小天才电话手表。

8月30日,小天才官方微博发布公告回应称,回答的内容都是由第三方软件小度回应,目前已经在整改中,小度APP已从手表端下架,并且在整改完成之前小度APP暂时不上架。

小天才作为电话手表的生产方,应该对手表内的APP负有监管责任。但小度APP,作为直接生成内容提供给用户的主体,负有更大的责任。

8月30日下午消息,小度科技方面就小天才电话手表中的小度称“中国人不诚实”一回答回应称,经过快速排查,此次出现问题的内容,来自于第三方网站2012年2月的文章。目前小度科技已经删除上述信息,同时进行全面排查清理。

小度把责任推给第三方网页是不负责任的说法。小度就如同一个大商场的管理者,虽然商品可能来自不同的供应商,但商场有责任对入驻的商家进行严格的筛选和监管。当出现问题商品时,商场不能仅仅将责任推给供应商,而应积极承担起管理不善的责任。

同样,小度既然将第三方内容纳入自己的服务体系,就必须对这些内容进行严格的审核和过滤,确保其符合法律法规、社会公德和用户的需求。

此次事件说明,小度在技术层面或许也存在明显的漏洞。人工智能和机器学习虽然是动态发展的,但这不能成为输出不当内容的理由。小度在其用户协议中声称,虽已按照法律法规要求进行了过滤及审查,但仍不排除部分信息存在瑕疵。

这无疑是一种托词。在信息爆炸的时代,人工智能面临着海量的数据和复杂的算法挑战,但这并不意味着可以放松对输出内容的质量把控。小度应该像一位技艺精湛的工匠,对每一个输出的 “作品” 都进行精心雕琢,确保其准确、合法、合理。

2023年,国家互联网信息办公室关于《生成式人工智能服务管理办法(征求意见稿)》(以下简称《办法》)第四条明确规定,提供生成式人工智能产品或服务应当遵守法律法规的要求,尊重社会公德、公序良俗。

《办法》第十八条规定,提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容,不利用生成内容损害他人形象、名誉以及其他合法权益,不进行商业炒作、不正当营销。而小度提供的不当答案,显然与这两条规定相违背,甚至有可能涉嫌违法。

事实上,这不是小度第一次引发争议。

2022年,上海小度技术有限公司(小度APP运营方)因违反广告法,被上海市浦东新区市场监督管理局罚款25万元。

2023年,上海小度技术有限公司因未经著作权人许可,复制、发行、表演、放映、广播、汇编、通过信息网络向公众传播其作品,违反著作权法,被上海市文化和旅游局警告并罚款10万元。

这一次,小度掀起的网上舆论风暴,已经涉嫌“伤害民族感情”,更加令人难以释怀。

科技如剑,可护正义亦可伤无辜;智能若舟,能载希望亦能沉信念。在人工智能时代,人们既需要享受科技带来的便利,又需要确保科技的发展不偏离正确的方向。小度作为人工智能领域的重要参与者,必须以此次事件为教训,痛定思痛,严守法度,为用户提供更加优质、可靠的服务。

小度应该明白,自己的每一个回答都可能影响到无数的用户,都肩负着重大的社会责任。只有坚守法度,才能行稳致远。

特别声明:本文为大象号创作者或机构上传并发布,仅代表作者观点。大象新闻仅提供信息发布平台。

评论
更多精彩评论,打开大象新闻APP
期待你查重0%的评论…
0