到2024年，我们将看到更多实时图像、音频和视频生成传播应用。
DeWave的核心技术思路是，将连续的脑电波信号转化为离散的编码，然后输入预训练的大语言模型进行文本翻译。
DeWave的训练流程主要分为三个阶段:1）自监督编码器预训练（仅原始EEG脑磁波)，这一阶段会先训练一个脑电波自编码模型，输入原始EEG波形，通过重建实现自监督。这样可以提取有用的时域和频域特征。
这种一步采样的方法使得CoMoSVC在实际应用中更加实用，特别是在需要快速处理大量数据的场景下，如实时音频处理和音乐制作等领域。这项技术的出现将为音频转换带来更加高效和方便的解决方案，为人们提供更多创造和表达的可能性。
该编码器具有多项功能。首先，它能够增强视觉感知能力，通过提供额外的视觉编码器，使MLLM能够更好地理解和分析图像内容。其次，VCoder能够处理特殊类型的图像，例如分割图和深度图。分割图能够帮助模型识别和理解图像中不同物体的边界和形状，而深度图则提供了物体距离相机远近的信息。最后，VCoder改善了对象感知任务的表现。通过提供额外的感知模态输入，如分割图或深度图，它显著提高了MLLM的对象感知能力，包括更准确地识别和计数图像中的对象。