Пребывание за границей (три с половиной месяца) Кони использует как для лечения, так и для расширения своего кругозора. 20 сентября 1869 г. в письме из Парижа С.Ф.Морошкину он дает самую подробную информацию о знакомстве с практикой работы судов в Германии, Франции, Бельгии. На её изучение он тратит значительную часть времени, целые дни проводит в залах заседаний судов, встречается с прокурорами, адвокатами, просматривает литературу, анализирует тенденции развития судебной практики по уголовным делам.(7.) Тщательное изучение всех тонкостей деятельности зарубежного суда, конечно, расширяло и углубляло специальные знания молодого русского юриста, давало возможность сравнивать судебные системы. Но в том же письме к Морошкину он признаётся: «Чтобы оценить Россию во многих отношениях, нужно пожить за границей, вдали от неё».(8.) В это время Кони уже подумывает о переходе с прокурорской работы на судебную. Его не оставляет мысль о сотрудничестве с кафедрами университета, об участии в учебной и научной деятельности. Во время пребывания в Калсбадене на лечении Кони знакомится с министром юстиции Российской империи графом К.И. Паленом. Они часто беседуют о делах Харьковского судебного округа. Выясняется, что предполагалось направить Кони на работу в Харьков лишь на время организации деятельности новых судебных учреждений. Перед отъездом в Россию Пален просил лишь об одном - вернуться к министру юстиции здоровым.

Впоследствии выяснится, что Кони произвел на Палена хорошее впечатление и тот активно продвигал его по служебной лестнице вплоть до должности председателя Петербургского судебного округа. По рекомендации Палена Кони поручается председательствование по делу Веры Засулич. Оправдательный приговор по этому делу возвысил Кони - борца за справедливость правосудия - и привел к отставке графа Палена с поста министра юстиции.

Немногим более двух лет А.Ф.Кони проработал в Харькове, но оставил о себе самые добрые воспоминания, и сам как-то сроднился с городом и коллегами по работе. В последующие годы он будет частым гостем харьковчан, а через 20 лет Совет Харьковского университета присвоит ему степень доктора уголовного права по совокупности его трудов, без защиты.

В начале 1870 г. А.Ф. Кони назначается товарищем прокурора столичного окружного суда, но работает здесь всего полгода и получает направление сначала на должность самарского губернского прокурора, а затем прокурора Казанского окружного суда с целью создания новых судебных учреждений, предусмотренных Реформой 1864 г. итак, в 26 лет у него была ответственная и самостоятельная работа. Министр юстиции продолжает следить за деятельностью талантливого юриста, который оправдал его надежды по проведению судебной реформы в Харькове и Казани, и в мае 1871 г. назначает его прокурором Петербургского окружного суда. В этом качестве Анатолий Фёдорович работает более четырёх лет. Он целиком отдаётся любимому делу, умело руководит расследованием сложных, запутанных уголовных дел, выступает обвинителем по наиболее крупным делам. Обвинительные речи Кони публикуются в газетах, и его имя становится известным широкой русской общественности. Он часто поддерживает обвинение по делам, в которых в качестве адвокатов выступают такие знаменитости того времени, как В.Д.Спасович, К.К.Арсеньев, А.М. Унковский и др.

Будучи прокурором по должности, Кони оставался защитником справедливого правосудия. «В бытность мою прокурором окружного суда В Петербурге мне приходилось иногда выходить из формальных рамок своей деятельности и в одних случаях не торопиться с возбуждением уголовного преследования, а в других , наоборот, предупреждать о возможности такого преследования, чтобы сделать его впоследствии в сущности не нужным. В первых случаях жалобщику надо было дать время одуматься и допустить заговорить в себе добрым и примирительным чувствам; во вторых - устранить, без судебного разбирательства, причину самой жалобы».(9.) таким был подход прокурора Кони к решению многочисленных дел столичного судебного округа.

Через камеру прокурора Петербургского Суда проходили, сотни уголовных дел, в которых так выпукло отражался быт тогдашней правящей знати. Чего стоило, например, так называемое «тёмное дело»!(10.) семейство крупного чиновника К., состоявшее из родителей, двух дочерей, замечательных красавиц, и забулдыги - брата, познакомилось с богатым банкиром, который среди петербургских развратников слыл особым любителем и ценителем молодых девственниц, за право обладания которыми старый и безобразный торговец платил большие деньги. « Почётная семья пыталась «подставить» ему в качестве девственницы старшую дочь, скрывая что она была замужем, но с мужем не жила. Чтобы избежать скандала , семья решила принести в жертву богачу младшую дочь. Узнав об этом, несчастная девушка, которой только что минуло 19 лет, покончила жизнь самоубийством. Семья К. Всячески пыталась скрыть это от полиции. Перед смертью девушка приходила в сознание и могла бы помочь следствию, но, кроме доктора медицины, преподавателя медико-хирургической академии, знакомого старшей сестры, выполнявшего функции посредницы и взятой на поруки тем же медиком, около неё никого не было. Врач категорически отказался помочь следствию, ибо сам был подкуплен. Дело было прекращено, не смотря на большие усилия А.Ф.Кони.

В этот период у Кони окончательно складывается взгляд на то, каким должно быть обвинение в суде и как его должен вести обвинитель: « спокойствие, отсутствие личного озлобления против подсудимого, опрятность приёмов обвинения, чуждая и возбуждению страстей, и искажения данных дела, и . что весьма важно, полное отсутствие лицедейства в голосе, в жесте и в способе держать себя на суде. К этому надо прибавить простоту языка, свободного, в большинстве случае от вычурности или от громких и «жалких» слов» .(11.) Слово, по мнению Кони, одно из величайших орудий человека. Бессильное само по себе, оно становится могучим и неотразимым, будучи сказано умело, искренне и вовремя. Оно способно увлекать за собой говорящего и ослеплять его окружающим своим блеском. « .Нравственный долг судебного оратора, - продолжает А.Ф.Кони, - обращаться осторожно и умеренно с этим оружием и делать своё слово лишь слугою глубокого убеждения, не поддаваясь соблазну красивой формы или видимой логичности своих построений и не заботясь о способах увлечь кого-нибудь своею речью. Он должен не забывать совета Фауста Вагнеру : «Говорить с убеждением, слова и влияние на слушателей придут сами собою»».(12.)

И далее: « .прокурор приглашается сказать своё слово даже в опровержение обстоятельств, казавшихся при предании суду сложившимися против подсудимого, причём в оценке и взвешивании доказательств он вовсе не стеснён целями обвинения. Иными словами . он говорящий публично судья».(13.)

Обобщая свою многолетнюю практику как судебного деятеля, Анатолий Фёдорович приходит к выводу, что защиты общества от нарушителей закона лежит на государстве, а практическое служение этой важной задаче в судебном состязании выпадает на долю прокурора обвинителя. Особого такта и выдержки требует и отношение обвинителя к противнику в лице адвоката. Прокурору, считает Кони, не приличествует забывать, что у защиты одна общая с ним цель - содействовать с разных точек зрения суду в выяснении истины доступными человеческими силами средствами и добросовестному исполнению этой обязанности.(14.) Этим принципами проникнуты многочисленные обвинительные речи Анатолия Фёдоровича, все его действия как прокурора округа, осуществлявшего руководство следствием. Это был истинный и вместе с тем человеколюбивый страж закона.

В 1872 г. А.Ф. Кони поддерживал обвинение по делу о подлоге завещания от имени купца Козьмы Беляева. По этому делу были привлечены трое обвиняемых и вызваны в суд 114 свидетелей. Процесс продолжался около месяца. Обвинительная речь А.Ф. Кони длилась более пяти часов.(15.) Роль прокурора в этом деле была чрезвычайно но трудной, прежде всего, потому, что преступление было совершено очень давно - 15 лет назад, а самое главное и непреодолимое препятствие - смерть, которая за 10 лет, прошедших до начала следствия, похитила целый ряд весьма важных свидетелей. По той же причине отсутствовал потерпевший. Речь прокурора Кони была названа газетой «С.- Петербургские ведомости» «адской». Суворин, называл речь Анатолия Фёдоровича «блестящей», писал: « .никогда, ни после одной речи, не выходил я из заседания суда . с таким уважением к представителю судебной власти, как после речи Кони .Превосходный критический разбор преступления . все нити которого прерваны временем».(16.) Присяжные вынесли оправдательный приговор, и это не расходилось лейтмотивом обвинительной речи А.Ф.Кони. Но Сенат отменил приговор; дело было направлено в Московский окружной суд, который также вынес оправдательный приговор. )