Практически все виды боярышника растут в виде кустарника (т.е. в природе один и тот же вид может попадаться и как дерево, в том числе многоствольное и как кустарник). Молодые саженцы обрезать низко - чтобы сразу ветвился. Ну или выбирать многоствольные. В принципе даже на достаточно взрослых можно сделать омолаживающую обрезку - чтобы закустился. Только растет молодой достаточно медленно... Из неприхотливых: Б.колючий или обыкновенный. Б.кроваво-красный или сибирский. Б. мягковатый.
По колючести барбарис хорош, но выращивала декоративный краснолистый (кажется Тунберга) - ну очень медленно растет. Туи золотые шаровидный и то быстрей. Может какие-то виды есть быстрорастущие.
Ежевика - конечно колючая, но как она без опоры будет расти - не знаю. Если ради изгороди (не рассчитывая на урожай особо) - может и можно ее стричь. Ну и разползается конечно.
Отличная вещь - еловые стриженные. В России традиционно были до 17-го. Но... в лесу для саженцев не всегда найти "пушистиков". До более менее приличного состояния придется года три минимум стричь. Если перестать стричь - не знаю. В принципе ель нижние ветви долго не сбрасывает, но в загущенной посадке (а в живую изгородь надо часто сажать) - постепенно низ, думаю станет оголяться и часть может погибнуть.
Если нужна очень большая (в смысле большая длина) изгородь - надо искать, что дешевле в виде саженцев, или что можно вокруг накопать.
Шиповник - надо сразу вкапывать полосу в землю, чтоб не полз по всему участку. В принципе можно конечно вырубать периодически.
Вот еще кстати - можжевельник (вот не помню уже, что покупалось - по моему Хиберника). А может у вас в лесу есть дикий - отлично малышей накопать. Стрижку хорошо переносит. На даче за 10 лет из одноветочного облезлого инвалидика вымахал до второго этажа. Красивый столб зеленый. Два года назад пришлось радикально выстричь в "дерево", убрав все нижние ветки - все отлично растет. Так что стричь можно и довольно основательно.
Бугенвелия конечно не вариант в европейской части России. На югах - да, растет. Ну и не теневое это растение ни разу. Клематисы мелкоцветковые и княжики - по рабице нормально растет. Но он тянется вверх - т.е. вверху забора будет шапка, а внизу лысо. И зимой неопрятно выглядит (зимует в подмосковье хорошо, весной из страшных сухих плетей обрастает весь).
Если не полная тень - можно попробовать актинидию. Саженцы купленные первые два года практически не давали прироста... Потом пошла.
Лимонник может быть.
Лианы хроши тем, что дают минимальную по ширине "изгородь", только зимой все это грустновато выглядит.
Барбарис займет не меньше метра ширины; шиповник , ежевика - может поменьше, если следить; туи, можжевельники, еловые изгороди - 1,5 метра (можжевельники есть совсем узкие - можно и в метр уложиться). Это - если совсем не изголяться над растениями, чтобы росли нормально здоровыми.
А вообще - какие там вводные в задаче? Если северная сторона дома и полная тень - то это надо еще подумать, что там будет расти. По опыту - калина и рябина растет в темных задворках. Тянется вверх - зеленая массса выше 1,5 метров начинается. Правда место совсем плохо освещенное.