如何思考人工智能的道德规范

                                                                       

现在,我们的日常技术比以往任何时候都更重要,为品牌和广告商提供了独特的消费者窗口.关于道德,消费者权利,透明度和数据隐私的问题值得仔细思考和审议.

这些问题对于位于加利福尼亚州旧金山的AI伦理作家,研究人员和议长Fiona McEvoy的工作至关重要.她被RE•工作和AI伦理学中的100名杰出女性之一(2019年和2020年)评为30位影响AI的女性之一.

与其他商业行业相反,为什么技术部门构成独特的道德挑战?

fm:新的和新兴的技术产品现在几乎嵌入了每个行业,因此AI等技术的道德挑战不仅限于开发它们的行业.他们也应该关注"用户行业".从根本上讲,正是这种令人难以置信的技术渗透引起了人们对道德和社会后果的关注.

作为人类,我们现在以前所未有的规模和各种不同的环境(在工作,在超市,汽车上,在家中,在家中,在家中,在家里)与技术互动.这不一定是一件坏事,但是科技部署者有责任确保我们的安全.无论是预期系统性偏见,认识到技术何时胁迫我们的决策,拦截希望武器化平台或黑客网络的恶意演员,还是对过度狂热的监视进行立场,我们需要确保技术为我们服务,而不是相反,而不是相反.

有些人会说公司本身不承担任何责任,因为用户愿意选择与产品互动.您的观点是什么?

fm:我完全不同意.事实是,在技术用户和科技公司方面,信息失衡存在令人难以置信的信息.作为消费者,我们不知道我们不知道什么,因此做出真正明智的决定几乎是不可能的.从系统本身的运作到数据收集和共享,再到试图利用我们的认知缺陷和劫持消费者行为的算法 - 用户不可避免地在后脚上.

例如,我最近读到,如果您要进入Nest Ecosystem,以及其所有连接的应用程序和设备,通过安装单个Nest Thermostat,您必须阅读一千个合同,以了解有关隐私协议的协议,第三方数据共享等是压倒性且显然不合理的.

,不要忘记这些公司非常聪明.他们对我们的了解比我们对自己的了解更多 - 他们知道如何说服我们,如何预测我们的运动,甚至我们的思想,他们都知道我们的习惯,什么使我们勾选,什么使我们脱颖而出,我们阅读了哪些类型的文章直到最后,我们的爱好甚至我们的激情是什么.我很确定他们可以找到一种以一种方式来重塑知情同意的方法,这意味着我们是真正的知情和真实的同意.

在您与非技术受众的对话中,了解技术行业及其对用户的影响最大的人是什么?

通常是机器决策中发现的偏见水平,或者是监视和监测的程度.我最近提出的一个例子是来自Gartner的一项研究,该研究揭示了多达50%的中度到大规模业务目前正在从员工互动中收集数据.它预测,到明年,这将上升到80%.有问题的监视包括我们的电子邮件(处理我们的语言和语气),我们的日历(我们正在见面?为什么?多长时间?)以及我们的动作(嗡嗡作响,进出建筑物).在某些情况下,公司甚至远程访问计算机摄像机并分析员工面部表情以检测诸如愤怒,沮丧或抑郁之类的情绪.

雇主说,他们试图了解员工满意度的水平,而不必发送依赖自我报告的内部调查.实际上,大多数人都发现这类策略深深地侵入,匿名是否.

AR和VR是令人兴奋的技术.您认为这些技术存在哪些挑战?

fm:它们是非常令人兴奋的技术,并且已经有很多真正有用的部署.但是,与大多数其他技术一样,我们应该检查一些使用方案.就增强现实而言,目前与我们可以扩展的位置以及哪种增强性不可接受无关.

许多人会大声疾呼:" AR不是真实的!它们只是被转移到真实环境的图形.

同样,在虚拟现实空间中,尚不清楚如果限于这些虚拟环境,是否可以播放不可能的虐待场景.而且也存在的关注,例如脱敏,随着现实主义的改善,某些用户可能会区分现实生活与虚拟生活的困难(已经有证据表明这可能是有问题的).

在与非科技受众的对话中,您认为对人工智能的最大误解是什么?

fm:我认为大多数人仍然很难准确理解什么是人工智能,这是完全可以理解的.已经有如此令人难以置信的炒作,实际的技术大多被埋在其下方.同时,关于新AI时代的含义,已经有很多可怕的事情 - 即,人工智能在这里否决了我们.这种炒作和吓人的结合仅在掩盖了真正的,不太世界末日的关注方面才成功,应在公共领域应有的氧气.

目前在雷达下飞行哪些道德挑战,而没有足够谈论?您认为尚未得到什么问题或特定的技术?

fm:我敢肯定,有很多在我自己的雷达之下飞行,但是我的很多重点是技术对我们的选择和决策的有力而又令人难以置信的微妙影响.在网上和离线上,科技公司都可以利用他们对我们持有的所有信息,并利用它来发挥其优势 - 将我们"轻描淡写地"采取主要是为了他们的利益,不一定总是在我们的决策中.

.

随着我们进入越来越沉浸式和令人信服的在线环境,我们必须确定何时这种"推动"成为"推s",因为公司有更多的机会"破解"我们的认知并削弱了我们的认知代理.

按照相同的方式,我们还应该对声称能够阅读和解释我们情绪的技术文物有深刻的保留.同样,技术产品欺骗孩子或脆弱的成年人认为它真正"理解他们"的想法非常令人担忧,尤其是在可能需要的影响方面.

如果您可以对公众进行有关其与技术关系的建议,那将是什么?

fm:科技公司目前关注建立信任,这是一个很好的目标,但与此同时,我鼓励公众反对这一点.他们应该变得更加持怀疑态度,仔细检查他们接受的产品,了解这些产品所知道的以及如何使用这些信息,并自行决定自己是否获得的东西是否相当于公平的交易.

天真地,我们所有人都给了很多免费的电子邮件,搜索引擎和社交媒体.重要的是,我们鼓励那些在这个新AI时代成长的人提前思考不可预见的后果.

您对可能有兴趣进入技术或商业道德领域的其他人有什么建议?

fm:首先,道德.我的背景是哲学和哲学伦理,这为我提供了一套令人难以置信的框架,以仔细研究各种不同的技术.很容易(并且很容易)对已经发现的一些问题感动,但是我们需要的是具有预测新问题的技能的人,以便在表现出来之前可以减轻它们.

此帖子也出现在消费者行为博客mjisme

                                               
0
订阅评论
提醒
0 评论
内联反馈
查看所有评论