対処方法は下記公式サイトで見つけました
https://helpx.adobe.com/jp/photoshop/kb/invalid-numeric-entry-integer-96-8-required-photoshop.html
レジストリをいじれば直りました。
HKEY_CURRENT_USER\SOFTWARE\Adobe\Photoshop\（バージョン番号）
に
キー名が「OverridePhysicalMemoryMB」
値にDWORD (32 ビット)で物理メモリ容量（単位はMB）
を追加すればOKだそうです。
