Изменение размера объекта без потери качества

Часто делаю в фотошопе объекты, например, круг, звезда, ромб, иконка и т.д., при увеличении которых края размываются, и только сейчас до меня доперло (т.к. редко пользуюсь этим инструментом), что "фигуры" при масштабировании не теряют качество краев в частности
Можно каким-то образом сделать из обычного слоя фигуру или еще какой-то вариант есть, чтобы контуры объекта не портились при масштабировании?

Нет.
Если объект будет в векторном формате, то контуры (и не только) "портиться" не будут.

AlekartRu, а разве есть векторный формат в фотошопе?
при открытии любой векторный файл будет растровым и его последующее масштабирование будет терять качество, нет?

Fibonacci, перо и фигуры - векторные. Если вы будете масштабировать объекты нарисованные пером или фигурами - их качество не ухудшится. Только если вы сами не нажмете по слою правой клавишей и не нажмете "растрировать".

Fibonacci, посилання
Цитата ("Fibonacci"):

при открытии любой векторный файл будет растровым

Сохраните файл в векторном формате -.EPS - посилання

Фигуры в фш это псевдовектор, при масштабировании качество не теряется. Правда иногда вылазят полупиксели (приближаете на максимум и смотрите, чтобы не было полупрозрачного пикселя по краю.)
В стандартных формах (прямоугольник) до 6й версии фш есть галка snap to pixels (полупикселей не будет). Начиная с 6й это идет автоматом.
Из иллюстратора можно добавлять вектор простым перетаскиванием в окно фотошопа. Если не растрировать, будет тянуться на любой размер.

Цитата ("Fibonacci"):

Можно каким-то образом сделать из обычного слоя фигуру или еще какой-то вариант есть, чтобы контуры объекта не портились при масштабировании?

обвести нужную фигуру пером и на новом слое у вас будет псевдовекторная форма.