书香阁 > 科幻灵异 > 我的学习群里全是真大佬 > 第119章 一个小目标

第119章 一个小目标(3 / 4)

“本质上,都是希尔伯特空间框架下,高维复杂系统的大规模数值求解与全局精度控制问题!”

刘若传指著白板。

“你们的痛点是扫描速

度越快,流场变化越剧烈,网格计算量指数级暴涨。”

“而黎曼零点呢?序号越大,函数振荡越剧烈,传统算法的计算量同样是指数级爆炸!”

“这破局的核心,就在于李东这篇论文里首创的降维和预收敛技术!”

刘若传越说越激动,转头看向李东,眼中满是赞赏,果然是我的好学生!

林伟听到这里,也品出了些味道。

“刘院长,您的意思是……”

高稳在一旁接过了话茬。

“林总,你们原来的算法,是要把浸没腔离散成百万级的网格,算力当然开销大。”

“但如果套用李东的这套‘非线性fft网格展开的稀疏降维框架’呢?”

“只要把你们光刻机浸没腔的固定边界约束、扫描台的运动轨迹输入进去,作为已知参数。”

“利用这套算法进行本征正交分解和稀疏表征,理论上,完全可以把百万级的网格自由度,直接压缩到几百个!”

“不仅如此!”

高稳指著论文的第二节。

“你们原来要迭代十几步才能收敛,李东这套算法里有一套全局预收敛逻辑。”

“光刻机的扫描轨迹是提前规划好的,前一个时间步的流场数据也是已知的。”

“只要把这套逻辑迁移过来,算法直接就能给出当前时间步的高精度初始流场,一步收敛到光刻要求的工业精度阈值内!甚至直接给出满足控制精度的解析近似解!”

“再加上这套极其变态的硬实时并行调度算法,彻底锁死通信延迟……”

高稳和刘若传对视了一眼,给出了最终结论。

“林总,只要把李东的这套底层逻辑剥离出来,针对你们光刻机的边界条件重新做映射和适配。”

“在亚毫秒级内跑通n-s方程的实时求解……”

“理论上是可行的。”

闻言林伟的呼吸已经有点急促了。

这可是压在他、压在整个国威装备集团,甚至压在整个华夏半导体产业心头上最致命的一块巨石啊!

为了这个流热耦合的算力瓶颈,他们无数个日夜在实验室里死磕,却仿佛在黑暗中蒙眼狂奔。

而现

最新小说: 盖世双谐最新章节 外科教父海与夏 重生之狂暴火法全文免费阅读 国潮1980镶黄旗 我是如何当神豪的最新章节 重生之狂暴火法最新章节 国潮1980最新章节 白骨大圣全文免费阅读 开局签到荒古圣体全文免费阅读 阴阳石最新章节