こんばんは、seiyai57133306さん
私もほぼ同スペックのノートPC（メモリーは64GB）ですので、確認してみました。Windows 10、CC2017。
映像素材；4k、30P
レンダラー；GPU高速処理
シーケンス設定；Red Cinema、29.97fps、3840×2160
プログラムモニター画質；フル
確認した内容
・クロスディゾルブトランジションを適用
・ブラー（ガウス）100 を適用
・さらに、PinP（スケール50％）4k映像2本を乗せ、それぞれにブラー（ガウス）100を適用
結果
上記いずれも場合も、レンダリングバーは黄色でリアルタイムプレビューです。カクカクは発生しませんでした。
seiyai57133306さんの場合、編集環境がいまいち不明な点がありますので、もう少し情報（下記内容）を頂けますか。
・映像素材の仕様
・映像素材の保存場所（ドライブ）、保存場所がHDDだとしたら、HDDは内臓、外付けのどちらですか。外付けの場合は接続はUSB2、3のどちらですか。
・レンダラーの設定内容
・環境設定のメモリで、Premiere Proに割り当てられているメモリ容量は何GBですか。
・レンダリング後の再生では、カクカクは改善しますか。
・タイムラインの複雑さ程度（どのような編集をしていますか）
GTX1080のパワーはすごいですので、2k映像素材でカクカクが発生しているのでしたら、何かがうまくセッティングできていないような気がします。