Una vez puestos al corriente de la naturaleza del Anillo Único se decidió que el destino del maléfico objeto debía ser el Fuego del Monte Orodruin, en Mordor, donde fue creado, y Gimli iría en la Compañía de los Nueve que tenía como objetivo la destrucción del Anillo, en representación del pueblo de los enanos.

Gimli y los demás llegaron a Moria tras su aventura en la montaña Caradhras, y allí pudo comprobar como se había malogrado el trabajo de sus antepasados en Khazad-Dûm, encontrando el cuerpo de Balin, otro de los compañeros de Bilbo, que había ido a Moria tiempo atrás a reclamar lo que en otro tiempo fue de los enanos y que ahora dominaba El Daño de Durin, el Balrog. Tras esta tristeza, Gimli quedó maravillado de la belleza de Galadriel en Lórien, y se encomendó a ella para el resto de su vida

Enseguida Gimli se hizo amigo inseparable de Legolas el elfo y, junto con Aragorn, partieron en busca de Merry y Pippin cuando se los llevaron los orcos, tras la caída de Boromir. Después de encontrarlos con Bárbol y de reencontrarse con Gandalf, partieron hacia Rohan, en donde su hacha acabó con muchos orcos al grito de Baruk Khazâd! Khazâd ai mênu!, salvando a Eomer de la Marca en la batalla de Cuernavilla.

También mostró su valor en la batalla de los Campos del Pelennor en Gondor y en la Batalla Final en la Puerta Negra de Mordor. Tras la guerra, Gimli se convirtió en Señor de las Cavernas Centelleantes, las cavernas que se encontraban bajo el Abismo de Helm. Siguió siendo Señor de las Cavernas Centelleantes hasta la muerte de Aragorn en el 120 de la Cuarta Edad, cuando, junto con su amigo Legolas, zarpó en una nave élfica en dirección hacia las Tierras Imperecederas.