共查询到20条相似文献，搜索用时 906 毫秒
1.
人工智能社会实验以社会实验的科学方式观测人工智能技术的综合社会影响,意在对其风险进行前瞻性评估,提前寻求应对策略,促进智能技术的良性发展。人工智能社会实验无疑会对实验场域中的参与人员和社会环境造成深刻的伦理影响,因而亟需建构一套切合实际、行之有效的伦理规范体系。当前研究虽有对于伦理风险和伦理原则的探讨,但仍缺乏有关如何在具体实践中定位伦理风险、落实伦理原则并确定伦理责任的精确阐释。人工智能社会实验的实验路径为其伦理规范体系的确立提供了基本框架。基于实验开展的7个阶段,结合人工智能伦理和社会实验伦理的研究成果：（1）分析整合实验各阶段面临的伦理风险,结合应用场景与技术特征进行深化;（2）梳理提炼普适的伦理原则,将其规范要求细化至实验各个阶段;（3）针对实验开展需要,确定不同参与主体在各阶段的职能作用,据此落实主体间的伦理责任。由此形成对人工智能社会实验伦理研究的基本认识,建构起既表达普遍价值共识,又具备实践可操作性的人工智能社会实验伦理规范体系。 相似文献
2.
传统研究认为技术将带来伦理风险,但并未意识到技术集成还将带来更严重的社会风险,即伦理风险在现代市场经济条件下可能演化为伦理陷阱。这种社会风险与伦理风险有质的区别。在市场经济资本逻辑的驱使下,伦理陷阱通过“互联网+”技术无限扩散,使得公众难以识别和回避。应对技术集成的社会风险可以采用伦理、法律与植入道德代码等手段,但治本之道是发展能识别并治理该社会风险的理论和方法。与现有的技术哲学及伦理研究进路相比,技术哲学“价值论转向”纲领更适合研究当前“互联网+”与未来“人工智能+”技术集成引发的社会风险。 相似文献
3.
随着人工智能技术的快速研发和广泛应用,加强对人工智能技术的伦理风险预估和政策规避路径研究已然成为全球治理共识。为此,应当重新审视人工智能技术本质,正视人工智能技术应用带来的诸多技术风险、伦理风险、社会风险和法律风险挑战。实际上,人工智能技术嵌入社会实际应用风险的规避是一项复杂的系统工程,应该致力于构建一个综合性的治理框架。简而言之,应强化风险意识,制定技术伦理规范和培养科学家的人文精神,提高人工智能技术模型的可解释性和可追溯性;以社会合作共治为框架,推进人工智能技术风险的协同治理;推动人工智能技术运用的国际合作,以及人工智能技术伦理与法律标准化治理体系建设。 相似文献
4.
ChatGPT以通用人工智能拉开了生成式AI发展的序幕,对人工智能生成内容产生深远影响,但其背后也潜藏着社会对生成式AI技术发展的担忧。通过阐述人工智能生成内容的技术演进过程及应用场景,分析人工智能生成内容带来的意识形态、法律、伦理、环境等风险,从政府层面、行业层面、用户层面3个方面对人工智能生成内容提出风险治理方案,以期为人工智能技术可持续发展提供参考。 相似文献
5.
人工智能伦理风险感知信任与公众参与 《科学学研究》2022,40(7):1153-1162
随着人工智能的井喷式发展,其涉及的伦理风险,也从科幻作品中走进现实,成为众多主体热议的话题。本文以技术接受模型及风险感知理论为基础,以信任为中介,构建了公众对于人工智能伦理风险的感知与其参与风险治理意愿的研究框架,并通过实证检验了相关假设。结果显示:人工智能伦理风险感知对公众参与意向具有显著的负向影响,其中公众对科研机构和政府的信任在人工智能伦理风险感知与公众参与之间起部分中介作用。该结论为构建“政府主导、专家引领、公众参与、社会监督”的治理新格局提供了科学依据,对于新兴技术实现科技向善具有重要的现实意义。 相似文献
6.
论人工智能系统的透明性 《科学学研究》2022,40(9):1537-1543
为了实现对人工智能系统的有效治理,社会各界对其透明性的呼声日益提高。提高人工智能系统的透明性,有利于相关人员更好地承担责任,保护公众的知情权,因而透明性原则在各类人工智能伦理原则与伦理指南中出现的频率最高,但不同主体对其的内涵界定却存在一定的差异。人工智能系统的透明性至少表现在算法可解释、数据透明与功能透明等多个方面。我们需要从智能的特征、人工智能技术现状以及技术治理的可行性等角度,充分认识人工智能透明性的限度问题。对于人工智能系统透明性的建构路径,至少有技术进路、伦理法律规制与文化进路等多种途径。 相似文献
7.
【目的/意义】人工智能时代下,个人信息安全面临着越来越多的风险和挑战,研究个人信息的保护问题具
有重要的理论意义和实践价值。【方法/过程】在分析人工智能时代个人信息安全问题的现实发展与理论内涵的基
础上,对个人信息保护法律规制的缺陷、个人信息知情同意原则的困境、个人信息安全面临的技术性风险、人工智
能企业的内部安全威胁与人工智能技术衍生的伦理风险进行检视,结合国际国内个人信息安全治理的理论与经
验,提出人工智能时代个人信息保护问题的安全治理策略。【结果/结论】通过分析研究,提出完善人工智能时代个
人信息安全的法律规制,推动政府、企业与社会公众的协同治理机制,构筑人工智能系统个人信息安全技术壁垒,
健全人工智能企业的安全管理规范,强化个人信息自我保护能力等策略,从而全面提升人工智能时代个人信息安
全治理能力。【创新/局限】以信息安全为研究视角,提出多维度、系统性、立体化的个人信息安全治理策略。但由于
缺少具体的数据分析,本文亦存在进一步细化的空间。 相似文献
8.
9.
人工智能伦理准则与治理体系:发展现状和战略建议 总被引：1，自引：0，他引：1
首先,界定人工智能伦理准则的基本概念,分析人工智能发展现状。然后,探讨导致人工智能伦理问题的主要原因,总结人工智能典型应用场景下的伦理问题,包括自动驾驶、智能媒体、智慧医疗、服务机器人等;此外,围绕应对人工智能伦理问题的基本原则探索治理框架体系,包括技术应对、道德规范、政策引导、法律规则等方面。最后,结合我国人工智能发展规划战略部署,指出在社会治理的落地过程中宜采取分层次、多维度的治理体系,并提出在人工智能伦理准则和治理方面的具体措施建议(2020-2035年),包括社会宣传、标准体系、法律法规等方面。 相似文献
10.
测量和解析个体对人工智能的风险感知是研究其社会影响的基础性工作。本文通过构建多指标多因素结构方程模型(MIMIC),从4方面测度了青年群体对人工智能的风险感知水平,并考察了8类风险因素对其产生的影响。数据分析显示,青年对社会、伦理、法律、国家安全、政治等具有长远性和集体性特征的社会风险因素的评价正向强化了其对人工智能整体属性的风险感知,而对经济、技术、人身安全与财产损失等具有近期性和现实性的个人风险因素的评价并未产生显著影响。上述结果表明,当代青年对人工智能风险感知的特征主要表现为“远虑”而非“近忧”,体现出该群体对待新兴技术的全局性、长远性和法理性的深度忧患意识。在全面开展人工智能风险治理的进程中,应从国家战略高度和法律伦理的角度强化对人工智能隐性风险的治理,最大限度地消除公众的远虑近忧,夯实新兴技术落地的社会基础。 相似文献
11.
本文探讨了大数据技术创新、研发和应用中的伦理问题。指出大数据技术是把双刃剑,这种技术的创新使社会、商业、以及亿万人受益,但同时也带来风险。我们必须鉴定风险,平衡创新带来的利益与风险。文章还探讨了与信息技术及大数据技术有关的数字身份、隐私、可及、安全和安保、数字鸿沟等伦理问题,并讨论了解决这些伦理问题的进路。最后,建议引入伦理治理的概念,指出大数据的顺利推广应用要求我们制订评价在大数据方面所采取行动的伦理框架,即伦理原则,为制订行为准则、管理和立法建立一个伦理学基础。 相似文献
12.
13.
社会科学的不断发展,生命技术诞生。生命技术包括转基因技术、基因治疗技术、克隆技术、异种移植等,其本身就是一种具有风险属性的技术,包括安全风险和伦理风险。它对社会或人类的影响深远,以及在利用高新技术干预人体过程中涉及未知的、不确定的因素太多,因而现代技术在促进经济与社会发展的同时,也产生或存在许多的负面的效益或因素,引起人们对人体客体化的忧虑,以及对维护人的价值和尊严的关注。本文从理解生命技术和技术伦理的含义出发,了解了技术与伦理之间产生冲突的历史必然性和客观性,然后研究生命技术的安全和伦理风险及其伦理问题,通过制定和实施严格的制度管理和有效的伦理规范,开发新的战略控制和规避生命技术风险。 相似文献
14.
生物技术日新月异,给人类社会提供巨大效益,但同时其发展与变革所伴随的伦理、安全、负外部性等问题日益凸显。生物技术伦理挑战及其应对已成为当今中国国家治理体系和治理能力现代化研究的重要议题之一。当前,生物技术仍处于早期发展阶段且发展方向、路径及其应用等均具有高度不确定性,技术变革具有更强的颠覆性、复杂性和社会关联性等特征。世界正面临生物技术大发展、伦理新挑战爆发、伦理治理再变革的交织互动复杂局面。中国应借此机会一方面推动生物技术高质量发展,另一方面应从风险研判、制度构建、多元主体参与和全球治理等维度,多管齐下、交错互动,以期达到综合性、灵活性、可持续性的治理愿景。 相似文献
15.
聚焦人工智能监视技术的伦理监管困境,采用文本分析挖掘公众对AI监视的伦理关注,并进行整体和分场景比较,结合深度学习与神经网络对伦理属性进行情感分析。研究发现：公众关注的19个伦理问题贯穿AI监视技术的“动机-过程-结果”生命周期,关注程度在工作、教育和生活场景下存在差异;公众对AI监视整体持负面态度,对其动机合理性、过程正当性及监管有效性存在质疑;通过重要性-情感联合分析可以确定治理优先级,重要性等级高-情感值低的伦理问题需高度重视;最后,结合道义论与目的论,构建了AI监视的伦理审查框架。 相似文献
16.
《科学学研究》2021,39(8):1364-1372
人工智能技术的发展与应用是一把双刃剑,其在解决诸多经济社会问题的同时也蕴含着巨大风险,因此对人工智能风险及其治理的探讨迫在眉睫。依据现有研究,论文首先分析认为人工智能技术发展和应用中可能涌现出三类主要风险:技术风险、社会风险和管理风险。其次,依据契约理论,类比分析契约的特性所引致的交易问题和人工智能的上述三类风险,提出人工智能风险的契约观,认为:人工智能的风险源自于契约的不完备性、隐性性和不透明性。再次,依据契约治理理论,以契约的设计、实施和监督为重要环节,提出人工智能风险的契约化治理机制。最后,从制度设计的视角出发,提出人工智能风险契约化治理的保障制度。论文在深入分析人工智能风险的基础上,比较全面地构建了人工智能风险的契约观,提出了人工智能风险的契约化治理机制和保障制度,为更深入地理解人工智能风险提供了一个新的理论视角,并将契约理论从探讨经济主体之间的交易关系拓展至"人-机"之间以及机器之间的交易关系,增强了该理论的张力。 相似文献
17.
负责任创新(RRI)旨在科学和技术创新过程中社会行动者和创新者彼此负责,同时会考虑创新过程中的伦理问题及创新产品的可接受性、可持续性和社会需求。其内涵分为行政定义和学术定义。在预期、反思、协商、反应、可持续性、关怀这6种负责任创新框架的基础上引入无私利性,基于负责任创新这7种框架理念解析人工智能技术发展带来的安全、隐私、结果等三方面主要伦理问题,探讨嵌入RRI框架来解决人工智能(AI)在产生、应用和发展等过程中滋生的伦理问题的路径,使AI技术更好地造福人类社会。 相似文献
18.
19.
[研究目的]人工智能在发展迅速的过程中,呈现出违背伦理与法治的趋势,美国政府及时采取措施对人工智能发展进行指引,其中的经验值得总结与借鉴。[研究方法]通过对美国政府指引人工智能的理念和实操进行分析,可以发现美国政府在理念层面要求人工智能的发展必须符合美国价值观和法治理念,在实操层面,则对工程实践、系统性能、人机交互、问责治理中的人工智能存在的问题进行解决。[研究结论]通过吸收美国已有的经验,并对其中的误区进行明辨,我国可以在理念层面明确人工智能的伦理与法律准则,在实操层面强化人工智能的可审计性、可追溯性、可解释性及可依赖性,确保人工智能适配伦理与法治。 相似文献
20.
人工智能在深刻影响人类社会生产生活方式的同时,也引发诸多伦理困境与挑战,建立新的科技伦理规范以推动人工智能更好服务人类,成为全社会共同关注的主题。本文从科技伦理的视角,围绕机器人、算法、大数据、无人驾驶等人工智能领域所出现的伦理主体、责任分担、技术安全、歧视与公平性、隐私与数据保护等问题,以及人工智能技术的伦理治理,对国内外相关研究成果进行回顾分析,并提出未来需要在中国情境下伦理原则与治理体系的建立、人工智能伦理研究的跨学科合作、理论分析与实践案例的融合、多元主体伦理角色分工与协作等方面进行进一步研究。 相似文献