В принципе тебе mylene здесь ответила 
Я вообще обычно выбираю просто в Shapes эту фигуру с закругленными краями. Рисую ее, затем слой перемещаю вниз под наш исходник. Затем ты устанавливаешь курсор мыши между исходником и этим слоем с фигурой и зажимаешь alt - при этом курсор должен изменится. Далее, не отпуская Alt ты щелкаешь в этом месте. Должно получится такое:
Но я так думаю тот пример с маской, который показан в уроке, ссылку на который тебе давала mylene, удобнее делать =) Но все равно каким бы методом ты не пользовалась, самое главное это потом сохранение! Если ты хочешь, чтобы картинка потом так и отражалась с округлыми краями, то нужно сохранять в формате gif или png. Т.к. gif ухудшает качество, то луше png. К примеру 01 - это jpg, 02 - png
01
02
Видишь jpg делает белый фон?!
Перед сохранением убедись, что у тебя есть только два слоя (нет еше одного фонового слоя).
