Русский военный моряк Николай Густавович Шиллинг, изучив характер движения льдов в Ледовитом океане, в 1865 г. впервые высказал научно обоснованное предположение о наличии на севере Баренцева моря, между Шпицбергеном и Новой Землей, неизвестной земли. Он считал, что она простирается к северу дальше Шпицбергена и удерживает за собой льды.
Под влиянием этой идеи Русское географическое общество в начале 1871 г. поручило группе крупных ученых составить план русской полярной экспедиции; в работе принимал участие и Н. Шиллинг. По мнению ученых, основная задача экспедиции заключалась в поисках предполагаемой земли. Но средств на это не отпустили, и открыть суждено было австрийцам.
В 1871 г. военный топограф и альпинист Юлиус Пайер и военный моряк Карл Вейпрехт возглавили австро-венгерскую полярную экспедицию на пароходе «Тегетхоф». 29 августа 1872 г. корабль вмерз во льды у северо-западного берега Новой Земли, за о-вами Баренца, и дрейфовал 372 дня в северном направлении. 30 августа 1873 г. на северо-западе туман внезапно полностью рассеялся и моряки увидели скалы. А через несколько минут перед ними предстала сверкавшая ледниками горная страна. Новооткрытую сушу Пайер назвал Землей Франца-Иосифа. Но течение стало относить льды, в которые вмерз «Тегетхоф», к югу, и лишь в конце октября, полярной ночью, австрийцы ступили на землю, оказавшуюся маленьким о. Вильчека (у 80° с. ш.).
10-16 марта 1874 г. при жестоких морозах (до —50°С) Пайер с шестью спутниками на санях, запряженных собаками, совершил первую, очень короткую вылазку от места зимовки к северо-западу и обнаружил о. Галля. Спустя неделю семь человек во главе с Пайером вышли в месячный поход на север. Тяжелые большие сани и нарту они тащили вместе с собаками. Во время маршрута температура не опускалась ниже —32°С, но зато массу хлопот причиняли метели и сырость, а также трещины во льду и выступающая сквозь них морская вода.
26 марта Пайер обнаружил о. Сальм, но посчитал его крупным островом, так как не исследовал широтных проливов. От группы малых островов, в которую входит Сальм, Пайер шел на север вдоль открытого им и пройденного на всю длину меридионального Австрийского пролива, отделяющего восточную островную группу от центральной. На востоке он проследил берег Земли Вильчека, усмотрел горы на ее юго-западной оконечности и о. Ла-Ронсьер, принятый им за выступ Земли Вильчека, которую он считал громадной сушей. Затем он достиг о. Райнера, а западнее видел землю о. Карла-Александра.
В начале апреля Пайер оставил четырех человек с большими санями, а сам с двумя спутниками на нартах двинулся дальше на север и добрался до о. Рудольфа, обогнул его с запада и вышел к мысу Флигели (81°51' с. ш.) – как доказано в ХХ в., крайнему северному пункту суши всей Евразии. Однако Пайер решил, что о. Рудольфа – крупная земля, продолжающаяся к северо-востоку. Дальше к северу и западо-северо-западу он «увидел» еще две большие суши – «Землю Петермана» и «Землю Короля Оскара». На обратном пути отряд пересек высокий о. Винер-Нейштадт (620 м) и открыл группу островов.
Вернувшись к пароходу в начале мая, Пайер через несколько дней выступил с двумя спутниками на северо-запад и в 50 км от базы открыл о. Мак-Клинтока (80°15' с. ш.). Ему показалось, что за проливом далеко на север и на запад (примерно до 46° в. д.) простирается громадная «Земля Зичи». Потеряв надежду на освобождение парохода из ледового плена, люди покинули его 20 мая 1874 г. После трехмесячного тяжелого перехода, которым руководил Вейпрехт, они на шлюпках, поставленных на сани, достигли кромки льда, а затем на веслах – Новой Земли, где были спасены русскими. В 1876 г. вышла книга Пайера «Австро-венгерская северная полярная экспедиция»; на приложенной к ней карте сильно увеличена протяженность Земли Франца-Иосифа на север и на девять градусов долготы к западу. Пайер прошел со съемкой более 850 км, нанес на карту ряд островов, но не заметил нескольких широтных проливов, отходящих от Австрийского в обе стороны.
В августе 1880 г. богатый шотландец-турист Бенджамен Ли Смит плавал на своей паровой яхте у 80-й параллели на запад. Между 55 и 50° в. д. он последовательно открыл и дал названия островам Брэди, Гукера (вторично – после голландца Де Брейна, 1887 г.), Нортбрук и Брюса, а к северо-западу от них (до 44° в. д.) обнаружил большие острова – Землю Георга и Землю Александры – и обследовал разделяющие их шесть проливов. Обрадованный Ли Смит направился к Нортбруку летом 1881 г., но у мыса Флора яхта была раздавлена льдами и пошла ко дну; на четырех шлюпках весь экипаж (25 человек) спасся и провел зиму на Нортбруке, в изобилии добывая пищу охотой: зимой на белых медведей, весной на испуганную птицу. Летом шотландцы дошли на шлюпках до входа в Маточкин Шар, где встретили спасательное судно.
Открытие Земли Франца-Иосифа продолжил английский альпинист Фредерик Джордж Джексон. В 1894 г. его экспедиция высадилась на о. Нортбрук и провела там три года. Весной 1895 г. Джексон пересек архипелаг в северном направлении и обнаружил девять небольших островов, в том числе Нансена, Луиджи, Солсбери и Джексона. Он заснял Австрийский пролив, открыл и прошел весь Британский Канал, доказав, что Земля Георга (2740 км2) – крупнейший остров архипелага. На о. Джексон в 1895—1896 гг. зимовали норвежцы Фритьоф Нансен и Фредерик Йохансен. Нансен открыл на северо-востоке архипелага еще три малых острова – группу Белая Земля.
Весной 1896 г. Ф. Джексон посетил центральную островную группу, принятую им за одну землю. Весной следующего года он и его спутники, в том числе Альберт Армитидж, на северном берегу Земли Георга открыли п-ов Армитидж, принятый ими за остров, большой залив (теперь залив Географов), ледниковый купол и у 81° с. ш. о. Артура. В очень скверную погоду они исследовали северную низменную часть Земли Александры, совершенно не похожую на остальные острова архипелага.
В 1898—1899 гг. на о. Галля зимовала возглавляемая журналистом Уолтером Уэлменом американская полярная экспедиция. Ее участник метеоролог Эвелин Бриггс Болдуин весной 1899 г. во время санного похода открыл и нанес на карту самый восточный остров Земли Франца-Иосифа – Греэм-Белл (1708 км2). Он проследил также восточный и северный берега Земли Вильчека. Благодаря Болдуину выяснилось, что архипелаг раскинулся на 11° с запада на восток – от 44 до 55° в. д., т. е. на 400 км.
Американец Антонио Фиала в 1903 г. на средства капиталиста В. Циглера организовал экспедицию на пароходе, зимовавшем в бухте у о. Рудольфа. В декабре экипаж перебрался на берег – льды сильно повредили корабль, а в конце января 1904 г. во время шторма он исчез. Только в августе 1905 г. вспомогательное судно вывезло зимовщиков в Норвегию. За два года пребывания на архипелаге научные сотрудники обследовали лабиринт островов между 52 и 59° в. д. Вместо «Земли Зичи», сильно уменьшившейся после работ предшественников Фиалы, на его карте появились новые острова, в том числе Циглера, Чамп, Грили и Хейса, а ряд заснятых ранее получили более правильные очертания.