Un niño huérfano se crió en una casa noble en la isla de Razril, parte de una federación conocida como las Naciones Insulares, que está amenazada por su poderoso vecino, el Imperio Kooluk. Cuando el niño crece, entrena junto con otros jóvenes, con la esperanza de convertirse en un caballero de la orden de Gaien. Un día, durante una misión de escolta, el barco de los caballeros es atacado por piratas. A través de una serie de eventos, el héroe es marcado con la Runa del Castigo, una de las veintisiete Runas Verdaderas legendarias. Mientras devasta a los enemigos, esta runa también está destinada a agotar la vida de su portador. Culpado de la muerte de su comandante, que no pudo resistir el poder de la runa, el joven caballero es exiliado de su tierra natal. Debe encontrar una manera de usar sus poderes para el bien de las Naciones Insulares, luchar contra una invasión Kooluk,
Suikoden IV es una precuela de toda la serie. Los eventos del juego tienen lugar ciento cincuenta años antes que los del primer juego , y la región del universo de Suikoden en la que ocurren son las islas al sur de Toran. El juego conserva muchas características clásicas de la serie: la capacidad de reclutar 108 personajes (Stars of Destiny); construcción y personalización del cuartel general del ejército (esta vez un gran barco en lugar de un castillo); énfasis en temas políticos en la historia; la capacidad de equipar runas de varios tipos en combate que permiten el uso de hechizos mágicos, etc.
La cantidad de combatientes activos en el partido se ha reducido de seis a cuatro en esta entrega. Una vez más, hay tres tipos de combates en el juego: los combates partido contra partido por turnos más frecuentes, los duelos y las batallas tácticas, que ahora tienen lugar en el mar. El jugador puede personalizar las fuerzas navales eligiendo capitanes y oficiales al mando, y asignándoles elementos rúnicos. Cada elemento tiene fortalezas y debilidades con respecto a otro, y el jugador debe usarlos tácticamente para ganar ventaja. La ubicación del barco en la cuadrícula de batalla y los ángulos de ataque también juegan un papel importante.
Lo nuevo en la serie es la navegación por barco: en lugar de explorar un mundo a pie, el jugador navega en un barco, descubriendo nuevas tierras e islas. También, por primera vez en la serie, hay actuación de voz, una cámara totalmente giratoria y la posibilidad de navegar por el personaje principal desde una perspectiva en primera persona.