在gpu上用nse模拟烟雾还可以，我以前做过。

楼主要入门的话可以从这个开始：
gpu gems 1 - chapter 38: Fast Fluid Dynamics Simulation on the GPU
是2维的，扩展成三维不是很难。

当然，要看大量的paper是必须的了，从这里开始：
Jos Stam. Stable Fluids. In Proceedings of SIGGRAPH. July 1999, P121-128.

好在国内有人总结了一些，你可以从他的参考文献里去google
柳有权，刘学慧，朱红斌，吴恩华. 基于物理的流体模拟动画综述. 计算机辅助设计与图形学学报. 2005，Vol.17，No.12，P2581-2589.

NV的网站上有demo演示，包括3D的，不过是d3d10版