Клуб основан в 1903 году. 2-кратный победитель Кубка Либертадорес, победитель Межконтинентального кубка 1983 г., победитель Рекопы Южной Америки 1996 г., 2-кратный чемпион Бразилии, 4-кратный победитель Кубка Бразилии, победитель Суперкубка Бразилии 1990 г., 36-кратный победитель чемпионата штата Риу-Гранди-ду-Сул.
Риу-Гранди-ду-Сул — самый южный штат Бразилии, граничащий с Аргентиной и Уругваем. Чемпионат этого штата, который проводится с 1919 года, называется Лигой Гаушу. Но первые десять с лишним лет футбольные первенства штата были полулюбительскими, и только в 1930 году впервые был проведен официальный чемпионат. Тем не менее в футбольной статистике учитываются и чемпионские титулы, завоеванные клубами штата с 1919 по 1929 год.
В эти «полуофициальные» годы клуб «Гремио», основанный в столице штата Порту-Алегри еще в 1903 году, чемпионом был трижды. Первый же официальный чемпионский титул завоевал в 1931 году и повторил этот успех в следующем году. Затем вплоть до 1940 года на верхнюю ступень Лиги Гаушу поднимались разные клубы — «Сан-Паулу» из Риу-Гранди, «Интернасьонал» из Порту-Алегри, «Гремио Фарропилья»… Но начиная с 1940 года чемпионами штата вплоть до нашего времени за редчайшими исключениями становятся лишь два клуба из столицы штата Порту-Алегри — «Гремио» и «Интернасьонал». Исключений пока было всего три — в 1954, 1998 и 2000 годах.
С 1940 по 1955 год чемпионом практически всегда становился «Интернасьонал». «Гремио» в эти годы выигрывал чемпионат лишь дважды. В 1956 году наступило время «Гремио», продолжавшееся 13 лет. В этот период «Интернасьонал» праздновал победу в Лиге Гаушу лишь однажды — в 1961 году. Но в 1969 году наступила победная восьмилетка «Интернасьонала». Начало 1980-х годов тоже было за «Интернасьоналом», но начиная с 1985 года шесть раз подряд чемпионом штата становился «Гремио».
Однако уже в начале 1980-х годов в «Гремио» подобрался очень сильный состав — Тита, Сезар, Каио, Ренато. В 1981 году клуб впервые выиграл чемпионат Бразилии. Поэтому в следующем году он участвовал в Кубке Либертадорес, но не прошел четвертьфинальный групповой турнир. Тем не менее второе место, занятое «Гремио» в том же году в чемпионате Бразилии, позволило клубу вновь вступить в борьбу за Кубок Либертадорес 1983 года.
Теперь «Гремио» занял первое место в четвертьфинальной группе, одержав 5 побед и один раз сыграв вничью. Одним из соперников «Гремио» в этой группе был другой бразильский клуб — «Фламенго». В полуфинальной группе «Гремио» вышел на первое место, лишь на очко опередив аргентинский клуб «Эстудиантес».
В финале соперником бразильцев был уругвайский «Пеньяроль». Первый матч в Монтевидео завершился вничью — 1:1, а 28 июля 1983 года во втором матче на своем стадионе «Олимпико Монументал» в Порту-Алегри «Гремио» одержал победу со счетом 2:1, завоевав свой первый Кубок Либертадорес.
В том же году бразильский клуб праздновал еще одну победу, выиграв в Токио со счетом 2:1 матч за Межконтинентальный кубок у немецкого клуба «Гамбург», победителя Кубка европейских чемпионов. Ну а в 1985–1990 годах последовала новая победная серия в чемпионате родного штата — шесть чемпионских титулов подряд. В 1989 году, кроме того, «Гремио» впервые выиграл Кубок Бразилии, а в следующем году — Суперкубок Бразилии.
Но поколение игроков, с которыми были добыты эти победы, уже уходило, и в 1991 году «Гремио» даже оказался в Серии B, однако пробыл там только год. В 1993 году клуб уже праздновал новую победу в чемпионате штата. К этому времени в «Гремио» уже собиралось новое созвездие ярких футболистов — Каталино Риварола, Паоло Нунес, Марио Жардел, Диньо, Маруландо — и теперь каждый год приносил новые триумфы.
В 1994 году «Гремио» во второй раз выиграл Кубок Бразилии. Это позволило ему снова вступить в борьбу за Кубок Либертадорес. Формула розыгрыша к этому времени, как это уже не раз бывало, изменилась, теперь «Гремио», заняв в своей группе второе место вслед за «Палмейрасом», вместе с ним вышел во второй раунд. Здесь «Гремио» в двух матчах одолел парагвайскую «Олимпию, а в четвертьфинале турнирная судьба снова свела его с «Палмейрасом». Удивительные результаты этих двух матчей до сих пор помнят поклонники обоих бразильских клубов. В Порту-Алегри победу с разгромным счетом 5:0 одержал «Гремио», в Сан-Паулу со счетом 5:1 победил «Палмейрас». По разнице мячей в полуфинал прошел «Гремио».
Здесь «Гремио» одолел эквадорский клуб «Эмелек» — один матч завершил нулевой ничьей, второй выиграл со счетом 2:0. В финале соперником «Гремио» был колумбийский клуб «Атлетико Насьональ». 23 августа 1995 года на своем стадионе «Олимпико Монументал» «Гремио» выиграл со счетом 3:1, причем до 72-й минуты вел — 3:0. 30 августа 1995 года в ответной игре в Медельине до 85-й минуты, напротив, в счете вели хозяева — 1:0. Но футболист «Гремио» Диньо забил ответный мяч, и игра закончилась вничью. Так «Гремио» выиграл свой второй Кубок Либертадорес.
В том 1995 году «Гремио» имел возможность завоевать и второй Межконтинентальный кубок, встретившись 28 ноября в Токио с амстердамским «Аяксом», победителем Кубка европейских чемпионов. Матч закончился нулевой ничьей, а в серии пенальти удачливее оказались голландцы 4:3. Тем не менее кроме Кубка Либертадорес, «Гремио» выиграл также чемпионат родного штата.
Очень успешным оказался и следующий, 1996 год. «Гремио» во второй раз стал чемпионом Бразилии, в очередной раз чемпионом штата и победителем Рекопы Южной Америки — аналоге европейского Суперкубка УЕФА. Этот турнир, стоит напомнить, разыгрывается с 1989 года, и в нем в качестве победителя Кубка Либертадорес предыдущего сезона «Гремио» встретился с прошлогодним победителем Суперкубка Либертадорес аргентинским клубом «Индепендьенте». Победа в матче за Рекопу Южной Америки была одержана со счетом 4:1.
1997 год принес еще одну победу — четвертый Кубок Бразилии. А еще через два года «Гремио» в 31-й раз выиграл чемпионат штата Риу-Гранди-ду-Сул. Как раз тогда в «Гремио» восходила звезда еще одного бразильского футбольного дарования — Рональдиньо, но в 2001 году он уехал в Европу, где его первым клубом стал «Пари Сен-Жермен». «Гремио» же без него в том году выиграл свой четвертый Кубок Бразилии и 32-й титул чемпиона штата.
Ну а последние достижения «Гремио» таковы — чемпион Лиги Гаушу 2006, 2007 и 2010 годов.