跳到正文
数据与训练

技术方向

数据与训练 最新动态

大模型是怎么练出来的:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。

2 条精选近 30 天 2 条共收录 56 条

更新

数据与训练的精选

11月13日周五第 1–2 条
  1. 模型发布·量子位

    无界前沿开源生信大模型Fx-Bio-1031,开放完整权重

    无界前沿开源生物信息大模型Fx-Bio-1031并开放完整模型权重,面向专业生信分析任务。在Anthropic的BioMysteryBench困难子集上,其Pass@5为70.59%,高于同框架下GPT-6-Astra的47.06%和Claude Opus-5的52.94%;BiomniBench的Pass@3为89.50%。模型基于Qwen3.8-Flash-Next做RSI后训练,采用总参数125B、每token激活6B的MoE架构,原生支持512K上下文,权重以Qwen Community License 1.0协议发布。

11月11日周三
  1. 模型发布·Google DeepMind Blog官方

    Google DeepMind 发布 AlphaGenome 2 细胞类型级 DNA 变异预测模型

    Google DeepMind 发布 AlphaGenome 2,这是新一代 DNA 序列模型,可从组织平均细化到单个细胞类型和状态,预测遗传变异如何影响数百种人类细胞类型。模型基于 68 种组织、超 1.07 亿个单细胞图谱训练,在 TenK10K 免疫细胞数据上识别出的因果变异比例从原模型的 16% 提升到 30%,方向性基因效应从 23% 提升到 43%。该模型今日起通过 AlphaGenome API 开放非商业研究,商业研究为私密预览,并计划在 Google Antigravity 中推出 AlphaGenome 2 Skills。