技术向善也能为恶,技术泛滥的今天,该往哪走?

近期,全国范围内出现了一系列AI诈骗事件,引发了广泛关注和警惕。这些事件涉及使用人工智能技术进行欺诈、诈骗和网络攻击,给社会安全和个人财产造成了严重威胁。

AI诈骗
指利用人工智能技术和算法,进行各种欺骗手段和网络攻击,以达到非法获取个人信息、财产和敏感数据的目的。诈骗分子利用AI技术高度智能和自动化特点,可以更加精准地针对受害者展开攻击,并且更加隐蔽和难以察觉。根据公安部公布的最新数据,2022年全国共破获电信网络诈骗案件46.4万起,同比上升5%。
受害者往往因为对AI技术的陌生和诈骗手法的巧妙,很难意识到自己正处于被骗的状态。而且,由于AI技术的不断演进和创新,诈骗手法也在不断变化和升级,给打击诈骗犯罪带来了一定的挑战。
作为最新兴起的技术,人工智能在为社会带来长足进步的同时,其普及和操作的低门槛,也被越来越多不法分子利用。10分钟骗取430万,有图有声不再未必真相了,前沿科技技术在高速路上狂奔的时候,其边界在哪?科技向善也能为恶,技术泛滥的世界,我们又该如何面对?

 

何谓技术泛滥?以人工智能为例

技术泛滥,并不只是一个专有研讨课题,而是真实存在于社会发展的各个阶段。当某项技术足够成熟,应用成本足够低,使用比较简单的时候,就会出现技术泛滥。通过技术实现降本增效,是企业永恒的追求。通过科技让生活越来越美好,也是人心所向。

何谓技术泛滥?

一是肆意滥用。之所以会出现技术滥用的情况,一方面在于技术的使用成本越来越低,同时低代码、无代码等技术让技术可以更轻松的触达应用场景,使得很多人很轻松的就能把相应功能布置上。人工智能技术也是如此,且更为盛行。这几年流行的图片及视频换脸技术,在各大社交、直播平台经久不衰,很大程度上推动了人工智能应用热潮。很难说这类“张冠李戴”行为算不算是对于公共肖像权的一种侵犯。

现在很多技术模块,都是成套引入的,一款软件一上线就带有N个模块的整体解决方案,用户在注册时,轻轻一点同意,用得到用不到的信息权限就全交给了软件平台。

二是违法乱用。就像近期发生的“10分钟骗走430万”事件,那些电信诈骗者,在跟你打电话之前,早已摸透了你的个人喜好与六度人脉,对你提出的任何质疑都能对答如流。现在有了大数据技术,这些不法分子在作案目标的选择上,更加如虎添翼,他们对于某些技术的精确掌控,怕是很多正规公司都做不到。

何谓边界?赋予AI一根“道德底线”

技术泛滥不是技术的错,也不是技术人员的错。它的出现,归根结底是在应用端上。腾讯自2019年发布“用户为本,科技向善”的口号,引发各界关注。在科技创新进入深水区,经济社会全面数字化、智能化的今天,深入研究新技术应用及其影响,已经成为摆在全人类面前的重大课题。在利用科技这一强大手段推动经济社会发展的时候,只有发挥好科技伦理对科技创新及其应用的调节、引导和规范作用,才能促使科技活动朝着更加有利于人类和人类社会的方向发展,实现科技向善的目的。在这个意义上,科技创新是手段,科技伦理是保障,科技向善是目的,三者相互配合协调,缺一不可。在这三者关系中,科技伦理为科技创新及其应用划定底线和边界,以确保向上向善的发展方向。

今年4月11日,国家网信办起草《生成式人工智能服务管理办法(征求意见稿)》(下称《办法》),并向社会公开征求意见。《办法》集中瞄准生成式人工智能的三大问题,从明确条件要求、划定责任主体、形成问题处理机制、清晰法律责任几个方面为行业划定底线。

而去年我国首部人工智能产业专项立法在深圳颁布——《深圳经济特区人工智能产业促进条例》,首次立法明确人工智能概念和产业边界。确了人工智能产品和服务的行为底线,在研究和应用活动中,禁止危害国家安全和社会公共利益、侵犯个人隐私和个人信息权益;禁止利用算法技术根据用户的偏好、支付能力实施消费欺诈等侵害消费者权益的行为等。

深圳市人工智能行业协会联合数十家人工智能企业于2019年共同发起首份《新一代人工智能行业自律公约》。该《公约》提出坚持以人为本、促进正义公平、确保安全可控、注重隐私保护、促进包容共享、确保权责明晰、加强协同合作、健全行业标准等8个方面内容。

在深圳市人工智能行业协会发布的《2023人工智能发展白皮书》中也提及,Al 伦理实际上是人工智能领域未来发展中避不开的话题之一,未来,人工智能将逐渐落实“以人为本”的理念,实现人类与 AI的发展共赢。对于未知的恐惧,总是存在我们的潜意识中,赋予AI一根“道德底线”,以约束其不能对人们基本道德伦理观念进行冲击,从技术上和法律上对其进行限制,以符合人类的意识。

时代的洪流任凭谁都无法阻挡,而我们能做的,是在了解之后,尽量趋吉避凶。尽量用技术做些向善、有情怀的事,并远离可能为恶的事,保护自己与他人不受其害。

广告位
联系我们

联系我们

13316818043

邮箱: marketing@saiia.org.cn

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部