При получении такой ошибки в Adobe Photoshop, просто сохраните файл в формате PSB, но лучше не создавать таких больших файлов.

У меня было всего 13 слоёв с 13 изображениями размером 5616х3744
Файл при этом весил 7Гб, что ненормально для данного случая
Зашёл в Image > Image Size и обнаружил что непонятным образом изображения имеют разрешение 15591х10394 и в таком случае одна картинка весит ~463Мб

463 умножаем на 13 слоёв = ~6Гб
Вот откуда такой непонятный размер файла.