Хилков оставался под домашним арестом, но получил право регулярно навещать русских пленных. Режим его содержания был смягчен, поскольку Карл хотел в это время обменять его на посла Швеции в России Т.Книппера. Однако Петр I освободил Книппера без обмена. О причинах такого демарша царя можно только догадываться: Андрей Хилков нужен был ему именно в Стокгольме, ведь Карл все-таки не ограничивал некоторые права Хилкова и самое важное — переписку. Пользуясь этим, князь посылал в Москву письма, написанные шифром либо тайнописью (бумагу надо было нагреть, для того чтобы поверх безобидного содержания проступили тайные чернила). На свое положение Андрей перед царем не роптал, домой не просился, хотя, что и говорить, тянуло к молодой жене.

Большинство писем шло от Хилкова в Копенгаген, в российское посольство в Дании, сохранявшей нейтралитет. Там информация дополнялась послами Андреем Петровичем Измайловым, а впоследствии Василием Лукичом Долгоруковым и переправлялась в Россию вместе с посольской почтой. В частности, от Хилкова была получена информация о готовящейся в 1701 году атаке шведской эскадры адмирала Шеблада на Архангельск. Боевые корабли Швеции шли к Архангельску под видом «китобойной флотилии», однако их движение находилось в поле зрения российской разведки — помимо сведений Хилкова из самой Швеции аналогичные сообщения пришли от царских представителей в нейтральных Голландии и Дании, где эскадра готовила снаряжение.

Дальнейшие события развивались так: на подступах к Архангельску эскадра взяла на борт трех русских лоцманов во главе с кормчим Дмитрием Рябовым, которые специально поджидали шведов. Они посадили два шведских корабля на мель прямо перед спешно и тайно поставленной в гавани Архангельска батареей береговой артиллерии. Эскадра поспешила сдаться, а лоцманы в суматохе сумели спастись.

В разгар новогодних праздников в следующем, 1702 году, в ночь со 2 на 3 января, несколько русских узников совершили побег из стокгольмской тюрьмы. Среди них были генералы Вейде, Бутурлин и Трубецкой. Однако вернуться в Россию удалось лишь одному беглецу — подполковнику Андрею Гордону, сыну П.И.Гордона — одного из основателей русской регулярной армии. Остальных ждал карцер в подвале Ратуши в Стокгольме, затем их развезли по разным тюрьмам Швеции, чтобы избежать новых групповых побегов.

А вот что писал А. Хилков в одном из своих тайных донесений по этому поводу: «Лучше быть в плену у турок, чем у шведов: здесь русских ставят ни во что, ругают и бесчестят; караул у меня и у генералов внутри; купцов наших замучили тяжкими работами…»

Сам Хилков оставался в Стокгольме, продолжая посылать в Россию донесения, в том числе и шифровки, которые хранятся сейчас в фондах Центрального государственного архива древних актов. С 1704 года в подготовке сообщений ему помогал взятый в плен под Нарвой офицер Алексей Ильич Манкиев, хорошо знавший шведский, латинский и польский языки. Дипломатические («явные») письма попадали в Коллегию иностранных дел, а «тайные», включая шифровки, — в собственный Кабинет Императорского Величества.

Хилков мужественно продолжал вести в Швеции активную работу, оставаясь под домашним арестом. Ему удалось отсудить у шведов часть купеческих капиталов, арестованных в 1700 году. На эти деньги он подкупал информаторов и связников, в том числе среди тюремной охраны. Полученные сведения он переправил в Россию двумя большими «блоками» в 1706 и 1708 годах вместе с освобожденными по обмену Петром Лефортом и Александром Гордоном.

Поражение шведов под Полтавой вызвало ужесточение режима содержания Хилкова. Королевский прокурор Аксель Спарре нащупал к этому времени канал утечки информации. Сперва Хилкова пытались перевербовать: когда Карл XII двинул войска через Польшу и Украину на Москву, ему предложили принять лютеранство и занять пост «советника по Московии» при короле. Когда он ответил резким отказом, в 1709 году один из его переводчиков скоропостижно скончался, а помогавший Хилкову старший подьячий посольства утонул при загадочных обстоятельствах. Тогда Хилков по своей инициативе зачислил в штат посольства Манкиева и стойко продолжал работать.

Разгром под Полтавой изменил настроения шведов. Хилков, уже десять лет находившийся в неволе, писал Петру I в 1710 году: «…здесь общая наклонность к миру, мешает один король — он скорее переведет до последнего человека, но не помирится, пока все не возвратит…» Но хотя мир не был заключен, в 1710–1711 годах состоялся большой размен пленных, когда были освобождены и отправлены в Ревель Бутурлин, Вейде, Долгорукий и еще 42 офицера. В это время Хилкову было разрешено посетить под надзором охранявшего его шведского генерала Нирота пленных русских военачальников Автонома Головина и Ивана Трубецкого в тюрьме близ Або. Вместе они решили не соглашаться на размен и оставаться в плену у шведов до конца военных действий, уступив свою очередь младшим офицерам. Этот благородный поступок ободрил многих молодых пленников, еще остававшихся в заточении и едва переносивших тяготы тюремной жизни.

В 1713 году Хилкова перевезли из Стокгольма в заключение в крепость Вестерос. Вслед за ним приехал Манкиев, который вез с собой рукопись начатого им. в Стокгольме труда «Ядро российской истории», описывающего события «от Адама» до 1712 года. Саму работу писал Манкиев, однако в ней принимал участие и Хилков, хорошо знакомый с древнерусскими рукописями. (В начале службы Хилкова при Посольском приказе его наставником был известный русский археограф и историограф конца XVII века Родион Кириллович Полуектов.)

Когда Хилков еще находился в Стокгольме, по его просьбе ему помогал в работе шведский историк Петрей, от которого он узнал многие подробности политического и экономического состояния Швеции, о чем регулярно извещал Петра. В Вестеросе он также общался с охранниками, призванными из разных районов Швеции, и узнавал от них важные новости о положении дел в стране. Так, в письме 1714 года Хилков извещал Петра о расширении штатов в шведских коллегиях иностранных дел, торговли, юстиции, военных дел и большой казны, о введении там новых должностей ревизоров и о распродаже патентов на эти должности. Работа над рукописью по русской истории была завершена в 1715 году.

Три года спустя, в начале 1718 года, Хилков скончался в Вестеросе от туберкулеза, обострившегося за долгие годы заключения. Он не дожил всего полгода до Аландского перемирия, по которому в Россию были возвращены последние пленные, включая Трубецкого, Головина и Манкиева, Александр Ильич Манкиев сопровождал на галере на Аландские острова свинцовый гроб с телом Хилкова, привезенный туда 18 октября 1718 г. Оттуда прах Хилкова был перевезен в новую столицу России Санкт-Петербург и погребен с высшими офицерскими почестями на кладбище Александро-Невской лавры. К сожалению, могила не сохранилась.

Вернувшись в Россию, Манкиев отчитался о пребывании в Швеции перед Коллегией иностранных дел, утвердившей его зачисление в штат 1709-м годом. Затем как специалист по Швеции, имеющий там много ценных знакомств, Манкиев был вновь послан туда готовить мирный Ништадтский договор вместе с генерал-адъютантом А.И.Румянцевым. Он пробыл в Швеции до 1720 года, а затем работал по размежеванию границ между Россией и Швецией вместе с графом Шуваловым в 1722–1723 годах. Вскоре он заболел и, ослабленный 18 годами заключения, скончался в 1723 году, Перед смертью он успел передать экземпляр «Ядра российской истории» с сопроводительным письмом единственной дочери Хилкова — Ирине.

«Ядро российской истории» было впервые опубликовано в 1770 году. Книга пользовалась огромным успехом, выдержав три издания за десять лет. На ее появление откликнулся восторженными стихами известный просветитель Николай Иванович Новиков: