重庆上方投资有限公司：防止生成式人工智能成为诈骗“新武器”
生成式AI技术为世界带来冲击，但同时也存在诈骗风险，需加强监管与治理。生成式AI技术利用深度学习模型处理信息，创建新内容。但诈骗者却利用这些技术实施网络诈骗，如网络购物诈骗、网络投资诈骗和网络视频诈骗等。防止AI成为诈骗工具面临三大难点：全链路信息监管难、个人信息保护难、智能生成产品识别破解难。为应对这些挑战，我们需要建设公共算力和算法平台，研发全链路信息监管技术，提升算力资源利用效能，并研发可溯源的网关类设备监管技术。同时，避免个人信息泄露也至关重要，应研发个人信息保护技术，规范个人信息采集与共享行为，采用匿名化、去标识化技术和加密技术处理个人信息。此外，还需建立信息安全通道，规范数据传输、处理与存储行为，监管信息使用情况。
面对生成式AI技术的挑战，我们应积极研发监管技术，保护个人信息安全，共同营造健康安全的网络环境。
页:
[1]