Пробыв два года в Риме, Флоренции и других городах Италии, Росси вернулся на родину. Увидев набережную у Адмиралтейства в Петербурге, которая своими каналами, верфью и мастерскими прерывала проезжую береговую часть города, тотчас же составил проект ее переустройства. Находясь под впечатлением римских построек, он предложил перекинуть мосты над каналами и верфями, под которыми могли бы свободно проходить корабли, а наверху бы шла проезжая береговая дорога. Это был смелый, фантастический проект.
Ответ был самый жестокий. Многие архитекторы, да и высшие чиновники того времени сочли план легкомысленным, а может быть, увидели в лице Росси соперника, свежую, молодую силу.
Росси был направлен на фарфоровый завод рисовать вазочки. Не удовлетворенный этим занятием, Карл продолжал работать как архитектор и в 1806 году ему удалось добиться официального признания своих способностей: он был утвержден архитектором Кабинета. Через несколько лет он получил назначение в Москву, в так называемую Кремлевскую экспедицию, которая занималась строительством и ремонтом правительственных зданий в Кремле, во всей Москве и ее окрестностях. Зодчий прибыл в распоряжение начальника «экспедиции» П.С. Валуева весной 1809 года. С этого времени, по существу, и началась его самостоятельная архитектурно-творческая деятельность.
Одной из первых работ Росси в Кремлевской экспедиции были проектирование и строительство новой Екатерининской церкви в Вознесенском монастыре в Кремле, закладка которой состоялась 4 июля 1809 года.
Но главной его работой с начала апреля 1810 года были планировка и застройка Твери. Назначенный руководителем комитета по благоустройству города, он создал ряд архитектурных ансамблей и крупных общественных зданий: гостиный двор, несколько жилых домов и другие.
Пребывание Росси, хотя и кратковременное, на посту главного архитектора комитета по благоустройству Твери было серьезным испытанием его искусства и организаторских способностей. Как главный архитектор Росси оказывал влияние на все строительство, которое в то время велось как в самой Твери, так и в уездных городах Тверской губернии: Бежецке, Торжке, Кашине и других. Для этих городов он исполнил ряд проектов, часть которых сохранилась до наших дней.
Здесь, в Твери, занятый и составлением проектов общественных и частных зданий, и их осуществлением, и регулированием всего строительства, зодчий прошел первую градостроительную практику. Здесь же он начал сплачивать вокруг себя творческий коллектив, на который постоянно опирался в дальнейшем.
Ликвидация комитета по благоустройству города прервала плодотворную работу Карла Ивановича Росси в Твери. В 1815 году он возвратился в Петербург.
В Петербурге задачи, поставленные перед Росси, решались совершенно по-новому. До него никто из современных ему архитекторов так не планировал. Создавая проекты, он представлял себе не отдельное здание, а сразу полный квартал города с широким и смелым раскрытием новых городских перспектив.
Острова вокруг Петербурга тогда были мало застроены. Они принадлежали не городскому населению, а богатым, владетельным придворным лицам и императорской фамилии. На Петровском острове стоял небольшой деревянный дворец Петра I. На Каменном острове – дворец дочери Павла I. На Елагином острове долгое время после основания Петербурга сохранялся дикий лес и остров назывался «Мишин», потому что на нем водились когда-то медведи. Сам остров был очень красив, но еще более красивы были виды, которые открывались на море, со «стрелки». Это место стало одним из самых любимых тогдашней петербургской знати. Поэтому здесь было решено построить дворец. Постройка была поручена Росси.
Елагин остров в течение всего 19-го столетия был изолирован от города. Только для удовольствия владелицы острова перед дворцом раза два-три в год на Царицыном лугу устраивали народные гулянья. Остров соединяется с городом двумя мостами и гранитной пристанью.
Главный дом построен Карлом Ивановичем на восточной стороне острова на фундаменте старого дворца начала XVIII века, но по совершенно новому проекту. Его парадный фасад расположен на запад. Отсюда открывается – через весь остров сквозь прямую просеку – красивый вид на море. Жилые комнаты выходят на юг и восток с большой верандой, а на северной стороне расположена зала-столовая. Кухня и все жилые помещения прислуги выделены в отдельный дом на северной стороне. За кухней были расположены оранжереи и огороды, а рядом с ними находился корпус конюшен. Служебные здания Карл Иванович распланировал в виде отдельных павильонов, таких красивых и в таких классических формах, что трудно даже сказать, которые из них уступают дворцу. Каждая из этих построек в отдельности является высоко художественным произведением, а вместе с дворцом – ценнейшим ансамблем русского классического стиля.