Αρχικά φοίτησε στην Ακαδημία Καλών Τεχνών της Ρώμης, ενώ στην δεκαετία του 1960 αφιερώθηκε κυρίως στην ζωγραφική, επεκτείνοντας στην συνέχεια το έργο του και στην γλυπτική.
Οι κριτικοί τέχνης τον θεωρούσαν έναν από τους κορυφαίους εκπροσώπους της λεγόμενης «arte povera», που παρουσιάστηκε με αυτό το όνομα για πρώτη φορά από τον Ιταλό τεχνοκριτικό Τζερμάνο Τσελάντ.
«Η δική μου γενιά έφυγε από τα σύνορα, βγήκε έξω από το κάδρο, είχε πολλά όνειρα για την ζωή και την τέχνη. Θέλαμε με τις ιδέες μας ν΄αλλάξουμε τον κόσμο. Είμαστε Ευρωπαίοι καλλιτέχνες, γαλουχημένοι με αυτή την ιδέα, και όχι την ιδέα του χρηματιστηρίου», είχε πει ο Γιάννης Κουνέλλης το 2012, σε δημόσια συζήτηση στο πλαίσιο μιας σπάνιας έκθεσης του στην Αθήνα, στο Μουσείο Κυκλαδικής Τέχνης.
Χρησιμοποιούσε στοιχεία όπως ατσάλι, πέτρα, λινάτσα, κάρβουνο και μαχαίρια. Αντικαθιστούσε το τελάρο με πλαίσια κρεβατιών, κάσες κουφωμάτων και κρεμάστρες παλτών. Η κλίμακα ήταν πάντα συμβατή με το ανθρώπινο σώμα: οι διαστάσεις του διπλού κρεβατιού ή ενός παραθύρου επαναλαμβάνονται σταθερά στα έργα του.
Επιστράτευε ακόμη και ζωντανά ζώα, όπως στην περίφημη εγκατάσταση με άλογα που παρουσίασε στη Ρώμη το 1969, επιχειρώντας να αμφισβητήσει το κατεστημένο καλλιτεχνικό στερέωμα.
Χρησιμοποιούσε φωτιά, χώμα και χρυσό για τον αλχημιστικό τους συμβολισμό ή καφέ και κάρβουνο ως αναφορές στο εμπόριο αλλά και ως χαρακτηριστικά στοιχεία του λιμανιού της γενέθλιας πόλης του. Ο Κουνέλλης επιστράτευσε ακόμη παλιά παπούτσια και ρούχα αλλά και αντίγραφα θραυσμάτων από αρχαία γλυπτά για να αναφερθεί στις περίπλοκες και αντιφατικές διαστρωματώσεις της ταυτότητας.
Ο διεθνής Έλληνας εικαστικός, με το ριζοσπαστικό έργο, από τα «ταπεινά» υλικά της arte povera μετέτρεψε την ακαδημαϊκή αντίληψη του χώρου σε λαϊκό τοπίο: «Για να σωθεί σήμερα η ιδέα της τέχνης χρειάζονται ελεύθεροι καλλιτέχνες, εκτός χρηματιστηρίου, που θα πουν με θάρρος “όχι”. Που θα δώσουν μια νέα ιδέα στην ποιητική δημιουργία, όπως συνέβαινε παλιά στην Μονμάρτη».
Ερωτηθείς δε για τον ουμανισμό που εκπέμπει το έργο του, ο ίδιος έχει πει: «Ο ουμανισμός τις τελευταίες δεκαετίες βρίσκεται σε κρίση. Απαιτεί πάντα ένα μέτρο, κι αυτό βρίσκεται μπροστά στα μάτια μας: είναι ο Παρθενώνας. Κι αυτό είναι το μέλλον, δεν είναι το παρελθόν».
Στις ατομικές εκθέσεις του Γιάννη Κουνέλλη περιλαμβάνονται αυτές στην Ambika P3 (Λονδίνο, 2010) και το Today Art Museum του Πεκίνου το 2011, ενώ η Tate Modern του Λονδίνου τού έχει αφιερώσει ειδική αίθουσα.
Στην Ελλάδα, η πιο πρόσφατη έκθεσή του ήταν στο Μουσείο Κυκλαδικής Τέχνης το 2012, ενώ το 2004 έργα του είχαν εκτεθεί στο Μέγαρο Μουσικής σε συνεργασία με το Εθνικό Μουσείο Σύγχρονης Τέχνης.
Το 1994 ο Κουνέλλης έστησε μια σημαντική αναδρομική εγκατάσταση της δουλειάς των 30 τελευταίων ετών στο φορτηγό πλοίο “Ιόνιον” στο λιμάνι του Πειραιά, οργανωμένη από το Ίδρυμα Ι. Φ. Κωστόπουλου.
