Composé entre 1904 et 1905, le Trio a été révisé en 1911. Son architecture en trois mouvements reflète des impressions universitaires vécues par le compositeur.

Le premier mouvement fait allusion à une discussion avec un professeur de philosophie (Ives a été très influencé par l'école philosophique américaine des transcendantalistes de Concord telle que l'atteste également sa Concord Sonata). Le discours est divisé en deux duos successifs : piano (main droite) et violoncelle, puis piano (main gauche) et violon, avant de se réunir à trois dans la dernière section. Dans ce mouvement, chromatisme et diatonisme, culture européenne et art populaire américain sont déjà juxtaposés presque sans lien.

Mais c'est dans le deuxième mouvement intitulé TSIAJ (This Scherzo Is A Joke) que le mélange des genres touche, sous une apparance de plaisanterie, à la nature même de l'imagination ivesienne, iconoclaste et nostalgique, pétrie de souvenirs d'enfance, notamment de ses études à Yale. Il utilise là des airs d'étudiants, des chansons populaires (Marching Through Georgia, Few Days, My Old Kentucky Home...), des ragtimes, les entremêlant librement à la manière d'un collage auquel participent les trois instruments dans une joyeuse virtuosité. La cadence du piano, juste à la fin, évoque le lever du soleil (après une nuit de fête ?) et le mouvement s'achève dans la polytonalité.

C'était probablement un samedi soir à Yale, car nous voici dimanche dans le finale, qui fait référence à un service religieux, utilisant une écriture plus sévère. La citation de l'hymne Rock of Ages de Thomas Hastings (1784-1872), mélodie présente dans tous les livres d'église à l'époque de Ives, apparaît à plusieurs reprises en rupture avec le langage de Ives, caractérisé par ses harmonies dissonantes. « Dans cette confrontation de styles et de caractères expressifs différents ainsi que dans l'esprit et la force singulière de la musique de Ives vivent certains traits de l'âme pionnière et de l'attitude récalcitrante de l'Amérique face à la culture. » (Christian Hinzelin)

Cette diversité stylistique, typique de la facture compositionnelle de Charles Ives, est à la fois un choix esthétique contre la trop belle unité classique et une attitude éthique, revendicatrice, s'opposant au respect excessif que les musiciens américains de son temps, notamment ses maîtres à Yale University, avaient envers Brahms et Dvorak.

Deux citations de ses Essays Before A Sonata, illustrent parfaitement cela :

« La nature aime les analogies et a horreur de la répétition et de l'explication. L'unité est trop généralement conçue ou trop facilement acceptée comme analogue à la forme et la forme analogue à la coutume et la coutume à l'habitude. La beauté en musique est trop souvent confondue avec quelque chose qui laisse reposer les oreilles sur une chaise moelleuse. »

« Il est fort possible que la Musique ne soit pas encore née. Peut-être qu'aucune musique n'a encore été écrite et entendue. Peut-être la naissance de l'Art aura-t-elle lieu au moment où le dernier homme qui veut faire de l'Art un gagne-pain aura disparu, disparu à jamais. »