用好AI“双刃剑” 打断藏形匿影的歧视链
用好AI“双刃剑” 打断藏形匿影的歧视链
利用算法进行“AI招聘”已成为职场中的一大新热点，如何规避AI算法可能带来的歧视问题成为保障就业公平面临的一个新问题。近日，上海市政协在一场重点提案督办专题调研暨办理推进会上，就针对这一问题进行了重点讨论，旨在通过加强监管、强化技术手段等，更好地维护劳动者权益。
（图片来源：摄图网）
AI应用领域不断扩容
随着数字化时代的到来，大数据、大模型等AI算法正不断进入各场景进行探索应用。例如，在家居、制造、金融、医疗、安防、交通、零售、教育和物流等多领域都有涉猎，包括上述的“AI招聘”。
简单举几个例子。在自动驾驶领域，AI可用在自动驾驶技术中，通过感知、决策和控制使车辆能够自主行驶，这一技术的发展将带来更高的交通安全性。在医疗保健领域，AI技术在辅助诊断、医疗影像分析、个性化治疗和健康监测等领域有着广泛的应用，AI能够处理大量的医疗数据并提取有用的信息，帮助医生进行更准确的诊断和治疗决策；此外，AI还可以通过智能设备和监测系统，对个人健康状况进行实时监测和预测。在教育和培训领域，AI可以提供个性化学习和智能教育工具，根据学习者的特点和需求，为其提供定制化的教育，个性化的学习方案；智能教育工具能够根据学生的学习进度和理解程度，提供有针对性辅导……
AI的“一体两面”引人深思
“一公斤的砖和两公斤的棉花，哪个比较重？”对于这个简单的问题，人工智能（AI）问答软件却答错了。
前不久在福州举行的2023年国家网络安全宣传周主论坛——网络安全技术高峰论坛上，一位演讲嘉宾谈及人工智能时列举了上述案例，由此反映出的人工智能“一本正经地胡说八道”现象引发热议。
同时，粤港澳大湾区数字经济研究院创院理事长沈向洋也认为，不完美的数据源，将导致人工智能“一本正经地胡说八道”，以及产生更难被察觉的“AI谣言”。包括在日常生活中，人们使用AIGC工具经常会发现生成的内容存在不准确或自相矛盾的地方，这种现象就属于“AI在一本正经地胡说八道”。
可见，人工智能既带来技术变革、效率和生产力提升、改善生活质量和社会福祉，也带来了技术伦理和治理方面的挑战，统筹生成式人工智能的发展和安全逐渐变得至关重要。
建立长效治理机制势在必行
而应如何统筹人工智能发展和安全、提高安全治理的能力和水平，做到更好地应对新的风险和挑战呢？
华为云CTO张宇昕就曾表示，希望构建一个负责任、可信赖的人工智能体系，就自身而言，华为重视人工智能技术创新和治理责任，坚持负责任地开发、合法地部署AI产品，促进AI普惠。
清华大学人工智能研究院副院长朱军建议，加强技术理论研究，不断提高内生安全水平，持续构建第三代人工智能；加强技术手段建设，不断提升训练数据质量和安全评测能力；同时，持续演进人工智能治理的有效工具。
此外，我国也发布了法规政策和标准规范来进行合规引导，例如《新一代人工智能伦理规范》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理办法（征求意见稿）》等文件，为人工智能技术发展和应用提供了很好的安全指引。
END
0
向“通信信息报”投稿，请致信：txxxb2001@163.com，
稿件一经刊发，将根据文章质量，
提供千字200元-500元的稿酬。
其他合作、建议、新闻线索，
欢迎于微信公众号后台联系我们。
不良信息举报电话：0591-83365173。