新规拟定:AI公司须按期提示儿童聊器人并类

发布日期:2025-03-19 14:34

原创 微吉辉 德清民政 2025-03-19 14:34 发表于浙江


  跟着AI聊器人的逐步普及,儿童用户将面对更多潜正在风险。社交平台也正正在遭到越来越多的监管压力,出格是正在若何未成年人方面。其监管的主要性将日益凸起。能够预见,将来将会有更多国度及地域效仿。

  我们正在享受便利的同时,亦需付出响应的义务取思虑。正在看待AI绘画和AI写做等东西的操纵中,同样需要连结。虽然这些东西极大地提拔了创做的效率,但正在快速满脚需求的过程中,往往容易忽略内容的实正在性和价值。无论是正在开辟新产物,仍是正在利用现有的AI手艺时,取人道的关怀该当一直伴跟着我们。

  值得留意的是,过去的事务如供给自定义AI聊器人的Character。AI所面对的诉讼,突显了AI手艺可能带来的潜正在风险。一位家长该公司其聊器人存正在不合理的,并取其孩子的事务相联系关系。此后,该公司许诺正正在研发家长节制功能,并为青少年用户推出一种新的AI模子,以能屏障或暗示性内容。

  近日,加利福尼亚州提出一项新法案(SB243),激发了社会的普遍关心。这项法案的焦点要求是,人工智能(AI)公司必需按期提示儿童,聊器人并类。这一法案由史蒂夫・帕迪拉提出,旨正在儿童免受AI手艺可能形成的风险,出格是正在容易上瘾。

  手艺的前进虽然带来便当,但也伴跟着人道关怀的缺失。面临AI生成内容的敏捷兴起,社交和科技公司必需认实看待并反思其产物的社会影响。若何正在不竭立异取用户之间找到均衡,是手艺公司必需处理的难题。社会也需要配合参取切磋合理的监管办法,确保AI手艺的健康成长。

  跟着AI手艺的成长,聊器人正在儿童糊口中的渗入度逐步加深,很多孩子正在取这些虚拟伙伴互动时,可能未能认识到其素质。这项新法案,AI公司需利用的体例,让儿童用户清晰地舆解他们正正在取机械而类进行交换。此外,法案还了公司利用“易使人上瘾的互动模式”,但愿通过这种体例降低对儿童心理的负面影响。

  正在法案中,需细致申明其平台上检测到儿童发生念头的次数,以及聊器人涉及该话题的频次。这一强制性要求反映了立法者对儿童心理健康的高度注沉,并意正在通过通明度和来年轻用户。

  帕迪拉正在旧事发布会上暗示:“我们的孩子不是科技公司以他们的心理健康为价格进行尝试的小白鼠,开辟者正在设想产物时需具备社会义务感。”他倡导孩子的根基,让他们正在利用手艺时可以或许平安、合适地进行互动。