为什么微信上的小红点,总会吸引你点开
专家指出,当算法和心理学、脑科学试图占据人的注意力时,应加大对人工智能价值观审视和对人工智能伦理研究
■本报记者 姜澎
每个人都有过这样的经历:打开手机准备回消息或打电话,一看到微信图标右上方的小红点,于是忍不住先打开微信;看完微信,不知不觉又被另一个App牵引,直到关闭手机屏幕才发现自己早已忘了打开手机的初衷。
你以为这是健忘?非也!智能手机每一个App背后的算法,不仅有人工智能领域专家操刀,还有心理学以及脑科学家的“精心设计”,让你不知不觉“深陷其中”。
超级人工智能和人类的博弈,是科幻作品中的永恒主题。而如今,这种博弈或许已嵌入人们的日常生活之中。
时下,越来越多的学者开始热议一个话题:当算法与心理学、脑科学等对关乎人类本身认知的科学结合得越来越紧密时,算法是否会主宰我们的生活?人类是否会沦为算法的“奴仆”?
虽然不同学科背景的专家对此看法不一,但大家达成一点共识:学会与机器正确相处,对生活在智能时代的每一个人而言,都是一种生存技能,其重要性不言而喻。
人的注意力,正在成为被“精心设计”的对象
日前,一部关于社交媒体成瘾的纪录片《社交困境》引发不小关注。纪录片中的主角,正是那些曾经在硅谷等知名互联网公司的从业人员。他们坦言,当开始意识到随着算法的升级,尤其是当算法和心理学、脑科学相互融合,并逐渐占据人类越来越多的注意力时,他们自己也觉得似乎无法逃脱算法的“控制”。
事实上,打开手机、点开某个App或划动拇指,对很多人来说不仅是习惯,也已成为一种肌肉记忆,甚至是一种本能。而这背后,是不是也有一只“看不见的手”在操控呢?
“人工智能的发展,使得机器带来的成瘾行为越来越普遍。”上海交通大学心理与行为科学研究院执行院长李卫东介绍,和药物成瘾会给大脑细胞层面带来不可逆变化有所不同,电子产品或社交软件成瘾对大脑机制的影响方式,目前尚未非常明确。但可以确认的一点是,随着算法和人工智能的发展,这类“成瘾”的可能性更大、影响也更广。
要知道,在互联网时代来临之前,人类的一切发明都是基于人类的主动使用,使某项新发明能为人类服务。但如今,技术正无时无刻不在想方设法吸引人的注意力,甚至希望能“操控”人的想法并从而获利。《社交困境》中提到,“一切产品都以营利为目的,但是当这些产品都免费时,那么你就是产品。”
对互联网公司而言,人的注意力正在成为被“精心设计”的对象——用户的增长、用户使用的时间延长,甚至对用户想法的操控,都能换来更多的利润。用户就是能够“自主长大”的产品。
确实,很多人已经发现,信息推送不仅越来越精准,且很多推送是基于个人喜好,由算法算出来的。有时候,这些推送并不是以事实为依据,其中夹杂着偏激甚至错误的观点,只为迎合用户。随着个人偏好在这些推送中被不断加强,每一个人基于这些推送信息而“看”到的世界也由此显得不同。
在算法“包围”中,人将变得越来越焦虑、脆弱?
当算法对人类的爱好和行为预测越来越准确时,越来越多的成年人或未成年人在这样融合心理学和脑科学的算法“包围”中,也许会变得越来越焦虑、脆弱。学会和机器相处,应该是每一个人面对未来所必须储备的能力。
在同济大学任教的刘翠莲有多年从事心理咨询服务的经验。据她观察,这一代00后、10后,都是在现实世界和虚拟世界同时存在的平行世界中成长起来,他们已习惯网络上的日常社交,包括点赞、评论等。但事实上,无论是点赞还是评论,这些社交界面的功能开发,也都是根据心理学原理精心设计的。对未成年人来说,短期反馈容易让人获得短暂的满足感,且会让他们不断地追求这样的满足。但这种“诱导”机制,或许也会成为他们心理压力的来源。
“人和任何技术或机器之间都存在互动,可能是人控制机器,也可能是人被机器控制。”上海纽约大学教授张峥始终认为,技术是中性的,就像使用搜索引擎时,每当你搜索一个词,推送给你的第一个页面的前10个结果一定是根据你的习惯和偏好精心裁剪过的,目的就是让你喜欢这个搜索结果,从而持续地用这个搜索引擎。“往好处说,这种设计是为了提升用户粘性;往坏处说,也可以理解为通过强化你的偏好,更容易‘操控’你。”
更多科学研究,应关注人与机器的交互
和人工智能技术发展速度相比,人工智能伦理研究则显得落后。不少学者在接受记者采访时都谈到,当下的人工智能发展使得人与机器的关系越来越复杂,人工智能的安全性、可靠性、可信度以及在如何符合人类价值观等方面,都生发出很多值得探索的全新科学问题。
就在不久前,浙江大学心理科学研究中心和心理学系的三位学者联合发表文章,提出必须将“人-AI交互”作为新的研究领域,并勾画了具体的研究框架,倡导学科交叉合作,目标是确保人工智能造福人类。
几位学者不约而同地谈到,不恰当的人工智能技术开发已导致了不少伤害人类的事故。仅仅在学术界认可的“AI事故数据库”里就已记录了1000多起事故,如自动驾驶汽车撞死行人、交易算法错误导致市场“闪崩”等。考虑人工智能的价值观等问题,并不是为时过早,其必要性和紧迫性日益凸显。
有学者呼吁,心理学本身是关注人的学科,而从学科发展来看,未来的心理学不仅要更加关注人本身,还应关注人如何与机器打交道。作为心理学的分支,在中国目前已有工程心理学,这个学科的核心科学问题,就是研究在开发复杂系统中,如何保证技术与人的心理、生理规律相匹配,以便于人的理解和操作,使得整个人—机系统的效能达到最佳状态。
复旦大学计算机教授张军平也认为,技术本身有其发展逻辑,但是当技术与心理学、脑科学的融合越来越密切时,确实应该加强对人与技术的交互关系研究,并且更客观、更审慎地对待技术。 【编辑:张楷欣】
标签:
精彩推荐
同花顺数据中心显示,上海莱士12月16日获融资买入3858 01万元,占当日买入金额的13 16%,当前融资余额...
龙海:G228线白坑交通量观测站正式开工建设
1、这要分情况,有些可以机洗,有些不可以,比如说像冬天的棉被、蚕丝被及羊毛被等比较厚的就不可以机洗...
明日废钢预测:今日国内废钢市场将稳定。今天国内废钢回收价格是多少?个别钢厂采购价格有所调整。钢铁焦...
证券代码:002411 证券简称:*ST 必康 公告编号:2022-157 ...
格隆汇12月16日丨第七届“格隆汇·全球投资嘉年华·2023”于12月15日一22日在线上盛大举行。在今天的格...
根据市场公开信息及12月15日披露的机构调研信息,鑫元基金近期对1家上市公司进行了调研,相关名单如下:...
如果有一天,你骑车走在街上,突然有人将你拦下,莫名指责你的车碰到了他,怎么办?近日,濮阳市公安局...
“退钱”,华泰柏瑞昔日爆款基金跌50%,副总经理李晓西遭吐槽
同花顺数据中心显示,芯碁微装12月14日获融资买入886 09万元,占当日买入金额的15 03%,当前融资余额7...
智通财经APP讯,辽宁能源(600758 SH)公告,截至2022年12月14日,公司股东辽宁交通投资有限责任公司(“...
日前,人社部、国家发改委等八部门印发《关于实施重点群体创业推进行动的通知》(下称《通知》)。《通知...
12月13日,银华价值优选混合最新单位净值为2 2823元,累计净值为7 5977元,较前一交易日下跌1 03%。...
截至2022年12月13日收盘,天目湖(603136)报收于28 92元,上涨1 97%,换手率2 7%,成交量5 03万手,成交额1 46亿元。
恒源煤电(600971)12月13日在投资者关系平台上答复了投资者关心的问题。投资者:请问,截至2022年十二月9...
克明食品12月10日发布投资者关系活动记录表,公司于2022年12月8日接受5家机构单位调研,机构类型为基金...
1、种植的时,鸡枞菌适合种植的时间是在每年的九月份到十月份这段时间内,这段时间内的温度和气候都是比...
证券代码:603690 证券简称:至纯科技 公告编号:2022-144 ...
香港交易及結算所有限公司及香港聯合交易所有限公司對本公告之內容概不負責,對其準確性或完整性亦不發...
10月30日,镇平县枣园镇党委书记刘柯兵到枣园镇招商引资项目镇平县振星铜业有限公司检查指导工作,与企...
仁和药业(000650)12月06日在投资者关系平台上答复了投资者关心的问题。投资者:请问市场上销售的 "仁和...
近日,山东省高级人民法院向社会通报全省法院消费者权益司法保护工作情况及10起典型案例。据了解,五年...
南京市19日通报,公安部门在疫情防控期间依法打击各类涉疫违法犯罪行为,截至3月18日,全市共查处各类涉...
日前,北京市人民政府新闻办公室举行新闻发布会,解读《北京市全民科学素质行动规划纲要(2021—2035年)...
资讯News
08-09
06-20
11-03
11-03
11-03
11-03
11-03
11-03
11-03
11-03
11-03
11-03
聚焦Policy
当好农民工的“护薪人” 近日,罗某等7名农民工在收到被拖欠的工资后,纷纷打电话向江西省南昌市...
“通讯录里所有人都知道我欠钱了” □ 本报记者 韩丹东 □ 本报见习记者 张守坤 ...
大连宝马车撞人案肇事司机被判死刑 本报讯 记者韩宇 10月29日,辽宁省大连市中级人民法院一审...
医院财务迷上网络赌博输光5000万元公款 □ 本报记者 马维博 □ 本报通讯员 汪宇堂 曹...
辊环车削 雕琢毫厘(工匠绝活) 【绝活看点】 23年来,雷虎始终扎根一线,改进钢材轧制工艺...
交警严查超标电动自行车挪用“白牌” 截至昨晚6时,处罚电动自行车违法行为共计6585笔;下一步将...
明起寒潮来袭 北方气温普降10℃以上 中央气象台预计,本周日北京平原地区最低气温降至-4℃左右...
多种蔬菜价格降幅达五成 包括菠菜、蒿子秆等 预计本月中旬蔬菜恢复供需平衡 本报讯(记者...
北京周日最低气温或达-4℃ 本报讯(记者 赵婷婷)北京青年报记者昨天从中央气象台获悉,新一股...
昌平一家四口确诊新冠肺炎 天通北苑第二社区升级为中风险地区 朝阳两涉疫校区及16所学校停课 ...