首页 > 汽车资讯 > 汽车资讯 > 2GPU+2CPU微调超大模型,带你上手开源KTransformers

2GPU+2CPU微调超大模型,带你上手开源KTransformers

发布时间:2025-11-11 16:34:45
2GPU+2CPU就可以在本地微调自己的DeepSeek 671B / Kimi K2 1TB超大模型了。
 
这就是前两天量子位介绍的明星开源项目KTransformers,吸引了很多伙伴的关注。毕竟谁不想在本地跑个自己的猫娘呢(误)。
 
 
 
 
KTransformers如何实现更低成本的LoRA微调?与其他技术方案有什么不同?低成本高性能的微调方案对于大模型落地意味着什么?
 
于是,我们邀请到了KTransformers项目的两位重要成员——
 
章明星,清华大学计算机系副教授,KTransformers项目主要指导老师
李沛霖,趋境科技KTransformers项目核心参与者
带大家上手实践如何用KTransformers+LLaMA-Factory在本地微调超大模型,也一起聊聊项目背景与最新进展。
 
欢迎在「量子位」视频号预约&观看直播
 
直播嘉宾
 
 
 
 
章明星
清华大学计算机系副教授
 
章明星教授是KTransformers项目主要指导老师。其主要研究方向为计算机系统机构领域,相关成果在包括OSDI、SOSP、ASPLOS、HPCA、FSE、VLDB、ATC、EuroSys等国际顶级会议和期刊上发表论文二十余篇。曾获ACM SIGSOFT 杰出论文奖,IEEE TCSC、ACM SIGOPS等组织颁发的优秀博士毕业论文奖。获得国家自然科学基金青年科学基金及博士后基金一等项目资助。博士毕业后进入清华大学与深信服联合培养的博士后计划,负责创新业务孵化,担任深信服首席算法技术专家,后任职创新研究院院长。
 

汽车资讯更多>>

存储涨价之势蔓延至CPU,AMD与Intel或将服务器CPU价格上调10-15% 大学生千元档购机指南:华为笔记本坚持稳价,叠加国补入手更实惠 OPPO Find N6和卫星通信版手机入网,预计3月发布 vivo X300 Pro海外获大奖,过程才是最精彩的 没有一个男生能拒绝真我Neo8的透明探索后盖和觉醒光环 自己的微信聊天记录不能导出?腾讯回应要求GitHub下架相关开源项目 美团App更新升级AI搜索功能,为用户提供准确的本地生活信息服务 AAAI杰出论文来了!港科大、同济、浙师大等国内高校获奖 DDR3内存+老平台挑战3A大作:实测60帧畅玩《赛博朋克2077》 iPhone Fold 9月亮相 全系标配A20 Pro芯片 旗舰配置无短板 真我Neo8支持超声波3D指纹、满级防尘防水 SK海力士、三星加速HBF商业化进程 “HBM之父”:最快明年用于英伟达产品 大学无用?奥特曼辍学当了CEO,但名校生撑起了整个OpenAI! 世上十日,圈内十年:茅台改革实录 “十五五”开好局起好步丨能动起来→能用起来 杭州具身智能产业跨越应用关 开年这样买本不吃亏:轻薄本迎来重大变化,游戏本早买早享受 王自如对比苹果Air与荣耀Air:后者已解决摄像头、单扬等问题 联想moto X70 Air手机Pantone 2026年度代表色云上舞白亮相 1688发布2025产业带报告:AI从“生意搭子”跃升为产业“智能中枢” 不用额外缓存!英伟达开源记忆压缩方案,128K上下文提速2.7倍 小米这六款机型2026年将停更系统!你的手机是否也在其中? 荣耀Power2发布售价2699元起,旗舰配置下放开启中端机越级新时代 直板屏天花板再升级!真我与三星深度合作,屏幕素质直逼苹果 从巅峰到普及:TCL 携SQD MiniLED重塑画质新标杆! 苹果上架马年新品,价格劝退,网友:这波不值? 你的华为手机可能被安装了隐藏app:教你一步一步关闭快应用! 7000mAh!vivo新机曝光:天玑9500+2亿像素 华为北汽“享界”战略大转弯:从轿车到智能旅行车,未来已启航 年底换车?军工品质,长安第四代55PLUS! 凯美瑞陷入价格战!丐版跌至13.88万,30天卖出17809辆