国际注册舞弊审查师科斯特尔·扬向参会者提问,请大家梳理调查工作运用人工智能面临的主要难题,不少参会者踊跃作答。大家提到模型输出失真、生成虚假信息,同时对数据隐私与安全问题心存顾虑。
扬回顾了自己在罗马尼亚开展网络犯罪调查的从业初期,彼时微软Excel被视作最得力的工具。他曾任职于新加坡国际刑警组织,现就职于德意志银行。在一起调查项目中,他与同事需要人工梳理跨度超过十年的数据。
扬在专题分享中演示了人工智能如何赋能调查工作。他介绍,只要配套完善风险防控手段,这类工具能够帮助调查人员挖掘信息,突破仅依靠检索框人工查询所能获取的信息边界。
扬在分享中着重提出,人工智能应用的风险防控必须坚持人在回路机制。“人工智能不会取代调查人员。”他表示,人工智能生成的所有信息,最终都由人作出判定。
扬介绍,他会借助人工智能梳理政策摘要,用于政策审查工作。同时他提醒参会人员,务必核验人工智能输出内容,防止信息失实。
随后,扬向参会者完整讲解调查全流程,涵盖范围界定、访谈、报告撰写、数据分析、电子证据开示以及文档审阅。他指出,当调查人员面对多项指控、需要划分信息优先级时,人工智能在范围界定环节能够发挥显著作用。人工智能在电子证据开示、从邮件与短信中归集信息等场景价值尤为突出。扬同时强调,若调查人员在调查任一环节使用人工智能,必须予以说明。
扬还讲到,人工智能具备较强的语境识别能力。例如,人工智能能够识别情绪对立倾向,区分“按要求附上报告”这类表述,以及“你为何对此提出质疑?”这类问句。前一种表述属于中性表述,而后一类话语带有情绪倾向,可分为积极或消极情绪。
调查人员还可利用人工智能开展分析工作。人工智能能够梳理关键事件时间线,并依托数据模式识别行为变化。例如在案件通讯记录中,人工智能可以捕捉异常:当事人不再继续使用邮件沟通,提议切换至聊天软件,或是突然中断联络。
扬指出:“人工智能无法‘辨别’事实真伪,它仅能生成看似真实的内容。”他解释,人工智能会依据训练数据,推算统计学上可能性最高的接续文字。调查人员使用人工智能时,还应当咨询隐私专员以保护敏感信息,并且牢记人工智能只是调查人员的辅助工具。扬表示:“核心调查工作仍需调查人员完成,人工智能仅用于提供支撑。”