上海交大团队实现全光计算芯片,支持大规模语义视觉生成模型
中国青年报客户端上海12月19日电(中青报·中青网记者 王烨捷)今天,上海交通大学集成电路学院陈一彤课题组的研究以《大规模智能语义视觉生成全光芯片》(All-optical synthesis chip for large-scale intelligent semantic vision generation)发表于国际顶级学术期刊《科学》(Science)上。这项研究在新一代算力光芯片方向取得重大突破,首次实现了支持大规模语义视觉生成模型的全光计算芯片LightGen。

所谓“光计算”,可以通俗理解为:不是让电子在晶体管中运行,而是让光在芯片中传播,用光场的变化完成计算。光天然具备高速和并行的优势,因此长期被视为突破算力与能耗瓶颈的重要方向。然而,要把光计算真正用到生成式AI上,并非这么简单:生成模型往往规模更大,还需要在不同维度之间不断变换;如果芯片规模较小,则不得不频繁在光与电之间级联或复用,速度优势会被延迟与能耗迅速抵消。因此,全光计算,就显得更为重要和困难。

陈一彤介绍,LightGen之所以能够实现惊人的性能飞跃,在于它在单枚芯片上同时突破了三项领域公认的关键瓶颈:单片上百万级光学神经元集成、全光维度转换,不依赖真值的光学生成模型训练算法。这三项中的任意一项单独突破都足以构成重要进展,而LightGen将它们同时实现,使得面向大规模生成任务的全光端到端实现成为可能。
值得注意的是,LightGen展示的并不是电辅助光去做生成,而是让全光芯片完整实现“输入—理解—语义操控—生成”的闭环:输入图像进入芯片后,系统能够提取与表征语义信息,并在语义操控下生成全新的媒体数据,实现让光“理解”和“认知”语义。论文中的实验验证,LightGen可完成高分辨率(≥512×512)图像语义生成、3D生成(NeRF)、高清视频生成及语义调控,同时支持去噪、局部与全局特征迁移等多项大规模生成式任务。

实测数据显示,即便采用较滞后性能的输入设备,LightGen仍可取得相比顶尖数字芯片2个和2个数量级的算力和能效提升。文章同步被《科学》杂志官方选为高光论文重点报道。









