vLLMは大規模言語モデル（LLM）の推論およびサービスエンジンです。0.23.1rc0以前のバージョンでは、温度の検証ゲートに比較演算子（、）を使用していましたが、PythonのIEEE 754浮動小数点セマンティクスにおいてNaNおよび正の無限大に対しては静かにFalseと評価されます。これらの両方の値はすべてのガードを通過し、GPUサンプリングカーネルに伝播されます。そこで未定義の動作やCUDAエラーを引き起こし、推論ワーカーをクラッシュさせる可能性があります。この脆弱性は0.23.1rc0で修正されました。

ベンダ情報を参照して適切な対策を実施してください。