Hy4 preview

腾讯发布Hy4预览版开源模型，拥有770B参数和1M令牌上下文

腾讯于8月28日发布Hy4预览版，这是一款MoE模型，拥有7700亿参数（490亿活跃），上下文窗口达100万令牌，采用Apache 2...