В 1447 году княжич Иван был обручен в Твери с дочерью великого тверского князя Бориса Александровича Марией, своей троюродной сестрой. Свадьба состоялась позже в Москве 4 августа 1452 года. Жениху в это время было 12 лет, а невесте — около 10. В марте 1462 года умер Василий II. В завещании он написал: «А сына своего старейшего Ивана благословляю своею отчиной великим княжением...» Ему были выделены города Коломна, Владимир, Переяславль, Галич, Кострома, Устюг, земля Вятская, Суздаль, Нижний Новгород, Муром, Юрьев, Великая Соль, Боровск, Суходол, Калуга, Алексин. Иван III, его братья и двоюродный дядя князь Михаил Верейский должны были послать писцов для описания своих земель и их «обложения по сохам и по людям». Уже по упорядоченным нормам все удельные князья должны были «давать в выход» великому князю для уплаты в Орду.

В апреле 1467 года умерла жена Ивана III великая княгиня Мария Борисовна. В это время Иван Васильевич находился в Коломне. В ряде летописей сообщается, что «преставися великая княгина Мария от смертного зелия; занеже познаху потому, покров на ней положиша, ино много свисло его, потом же то тело разошлося, ино тот покров много не достал на тело; и положена бысть во церкви святого Вознесения на Москве».

В 1471 году умер последний ярославский князь Александр Михайлович, и Ярославское княжество было присоединено к великому княжению. Летом 1471 года Иван III совершил первый поход на Новгород. Зимой 1478/1479 годов был организован второй поход на эту древнейшую боярскую республику. В результате была ликвидирована ее политическая самостоятельность. В сентябре 1472 года умер князь Юрий Васильевич Дмитровский. Иван III оставил удел брата за собой, что привело к конфликту с младшими братьями.

12 ноября 1472 года в Москве состоялось бракосочетание Ивана III с племянницей последнего византийского императора Софьей Палеолог.

В 1474 году великий князь купил у ростовских князей Владимира Андреевича и Ивана Ивановича их вотчину — часть Ростовского княжества и города Ростова.

В начале 1480 года вновь вспыхнул конфликт между Иваном III и его братьями Борисом Волоцким и Андреем Углицким. Борис Волоцкий жаловался Андрею, что «князь Юрий умер... и князю великому вся отчина его досталося, а им подела не дал ис тое отчины; Новгород Великый взяли с ним... а им жеребья из него не дал»; «кто отъедет от него к ним, и тех безсудно емлеть; уже ни за бояре почел братью свою»; «а духовные отца своего забыл, как ни писал, по чему им жити, ни докончания, что на чем кончали после отца своего». Иначе говоря, Борис Волоцкий стоял: 1) за традиционный передел княжеских земель, ведущий свое начало со времен Ивана Калиты; 2) за соблюдение древнего права отъезда бояр и слуг вольных от одного князя к другому; 3) за соблюдение того пункта духовной Василия II, где было сказано: «А сын мой Иван держит своего брата Юрия и свою братью меньшую в братьстве, без обиды». То есть он желал сохранить традиционные отношения братьев, основанные на их относительном равноправии как суверенных владельцев уделов. Новым в этих требованиях являлось лишь рассмотрение отношений московских князей не в рамках вотчины их предков, а в рамках всей Русской земли. Его требования противоречили закладывавшимся основам политического порядка, при котором суд и власть великого князя распространяются на все земли, независимо от того, в чей они входят удел. Во времена княжения Василия II конфликт между Калитичами был вызван стремлением, с одной стороны, сохранить, а, с другой, изменить старый порядок престолонаследия в рамках одного рода. Во время княжения его сына конфликт уже в рамках одной семьи был вызван стремлением одной стороны сохранить, а другой - изменить тот порядок, при котором территория, подчиненная великому князю, являла собой совокупность суверенных уделов.

Борис Волоцкий в конце января 1480 года отправил обоз с женой и детьми в Ржеву, а сам поехал в Углич к князю Андрею. Здесь они, вероятно, выработали план совместных действий, а затем «князь... Ондрей с княгинею и з детьми и князь Борис поидоста с Углеча к Ржеве чрез тверскую отчину».

Великий князь отправил к ним для переговоров боярина А. М. Плещеева. Его миссия не увенчалась успехом. Мятежные князья вместе со своими семьями и людьми продолжали двигаться к новгородской земле. Иван III послал к ним ростовского архиепископа Вассиана. Не отказываясь от переговоров, братья захватили стоявшие на литовском рубеже Великие Луки и обратились к польскому королю Казимиру IV, «чтобы он их управил в их обидах с великим князем и помогал». Переговоры Бориса Волоцкого и Андрея Углического со старшим братом и королем тянулись несколько месяцев, «И в то же время слышашеся о нахождении на Русь безбожного царя Ахмута Большие Орды». Причиной его похода явился отказ Ивана III платить ордынский «выход» (дань), который в середине XV века составлял 7 тысяч рублей. По свидетельству одной из летописей великий московский князь прекратил выплату дани в начале 1470-х годов. В июле русские войска во главе с великим князем двинулись к Коломне. Хан Ахмат, узнав, что на Оке его ждут главные силы московского князя, предпринял обходной маневр, двинувшись к реке Угре близ Калуги. Иван III приказал переместиться туда сыну Ивану и брату Андрею Меньшому. В сложившейся ситуации великий князь согласился с требованиями мятежных братьев, и те со своими отрядами в конце октября прибыли к нему в Кременец. В начале ноября хан Ахмат, так и не решившись перейти Угру, отступил от русских рубежей. Так, почти бескровно, было свергнуто ордынское иго, тяготевшее над русскими землями свыше двух столетий. Но дань с народа продолжали собирать и в дальнейшем.

В феврале 1481 года Иван III подписал с братьями Андреем Углическим и Борисом Волоцким договоры. Князю Андрею был пожалован город Можайск; он также получил села и волости, которые купила, а затем отдала любимому сыну великая княгиня Мария Ярославна. Князь Борис получил значительно меньше. Ему было позволено «ведати з судом и с данью» села, завещанные ему бабкой по матери Марией Голтяевой. Согласно этим же договором оба князя не должны были «вступаться» в Новгород и Дмитров с их землями и селами. В июле 1481 года умер князь Андрей Вологодский. Свой удел — Вологду, Кубену и Заозерье — он завещал Ивану III.

Зимой 1484/1485 года «князь великий... разгневася на князя тферского Михаила Борисовича, что начат дружбу держати с литовским королем Андреем и съветы с ним творити о всем и испросив короля за себя внуку, и того ради князь великий посла на него воеводы свои с множеством вои». Поход на Тверь начался 21 августа 1485 года. 10 сентября войска великого князя осадили город; на следующий день великий князь тверской Михаил Борисович бежал в Литву. 12 сентября к Ивану III явилась депутация из города во главе с епископом Вассианом и князем Михаилом Холмским. Делегация сдала город Ивану III. Тверское княжество вошло в состав Русского государства. С этого времени Иван III включил в свой титул фразу «государь всея Русии».

Великая княгиня Анастасия Александровна, жена тестя Ивана III, мать князя Михаила Борисовича Тверского была вывезена в Москву. В 1487 году ее заточили в Переяславле в темницу за упорный отказ сообщить, где спрятаны ценности ее бежавшего в Литву сына.

В 1486 году удельный князь Михаил Верейский написал завещание, которое было отредактировано в Москве. Согласно этому завещанию, после смерти Михаила Андреевича его удел должен был перейти к Ивану III. В первоначальном варианте духовной отец завещал своей дочери Анастасии 2 села в Ярославецком уезде. В окончательном тексте завещания великий князь должен был выдать Анастасии Михайловне 300 рублей.

В марте 1490 года неожиданно умер князь Иван Иванович, старший сын Ивана III. В сентябре 1491 года был обвинен в измене и посажен на Казенном дворе в Москве князь Андрей Углический. Его удел был отписан на великого князя. Андрей Большой умер в ноябре 1493 года. Спустя 5 лет «великий князь велел митрополиту с архиепископами и епископами быть у себя во дворе. И стал перед ними и начал бить челом с умилением и великими слезами, а прося у них прощения о своем брате князе Андрее Васильевиче, что своим грехом, неосторожею, его уморил, в нужи стоя перед ними долгое время. Митрополит же и архиепископы и епископы с испытанием и с великим наказаниа и понудиша и долгое время и едва простиша и понаказаша его впредь и как бы ему свою душу исправити пред богом».

В 1497 году начал действовать новый Судебник. Он был призван внести единообразие в осуществление правосудия и управления во всех частях Русского государства — ведь оно было собрано из отдельных уделов и земель, имевших свои законы и обычаи. Но Судебник 1497 года содержал главным образом нормы уголовного и уголовно-процессуального права, поэтому наряду с ним продолжали действовать отдельные статьи Русской Правды XII века.

В декабре 1497 года великий князь «всполелся» на сына Василия — тот хотел ограбить казну, основная часть которой находилась в Вологде, и бежать за рубеж. По приказу Ивана III были казнены дети боярские из окружения Василия, он сам и его мать стали содержаться в «тесноте».

4 февраля 1498 года был торжественно венчан на царство княжич Дмитрий, внук великого князя. 21 марта 1499 года Иван III пожаловал Василия, нарек его государем великим князем и дал ему Новгород и Псков. 11 апреля 1502 года великий князь наложил опалу на внука Дмитрия и его мать княгиню Елену Стефановну. 14 апреля Иван III возвел на великое княжение сына Василия. 17 апреля 1503 года умерла Софья Палеолог; она была погребена в церкви Вознесения. В ноябре 1503 года умер удельный князь Иван Борисович Рузский. Его удел отошел к великому князю.

В ноябре 1504 года состоялся новый церковный собор, на котором рассматривался вопрос о еретиках. Ортодоксальной части духовенства удалось добиться их осуждения. Уже зимой «князь великий Иван Васильевичь и князь великий Василеи Ивановичь всея Русии со отцем своим с Симоном митрополитом, и с епископы, и с всем собором и, обыскаша еретиков, повелеша их лихих смертною казнию казнити; и сожгоша в клетке диака Волка Курицина, да Митю Коноплева, да Ивашка Максимова, декабря 27, а Некрасу Рукавову повелеша язык урезати и в Новгороде в Великом сожгоша его. И тое же зимы архимандрита Касиана Урьевскаго сожгоша, и его брата, иных многих еретиков съжгоша, а иных в заточение разослаша, а иных по манастырем».

В январе 1505 года умерла сноха великого князя Елена Волошанка. 4 сентября 1505 года наследник престола женился на Соломонии Сабуровой.

Иван III умер 27 октября 1505 года в возрасте 66 лет, из которых 43 года пробыл великим князем. Его погребли в Архангельском соборе Кремля.

Еще в декабре 1503 года Иван Васильевич написал завещание. В его духовной большое внимание было уделено взаимоотношениям между его сыновьями на началах подчинения старшему брату. Никто из младших сыновей не должен был «подъискивати» «великих княжеств» под старшим братом или его детьми, не имел права от него «отступати» или «ссылатися с кем ни буди тайно или явно на его лихо», не должен никого «на него подъимати», «или с кем... на него одиначитися». Старшего сына Иван III благословил городами и землями Владимирского и Московского княжеств, великим княжеством Тверским, великим княжеством Новгородским, Псковом и его землями, частью рязанских земель. За каждым из сыновей была установлена доля их участия в уплате ордынских «выходов», исходя из размера их уделов (в 1502 году Золотая Орда была полностью разгромлена крымским ханом Менгли-Гиреем).