Unabhängig von seiner Größe besteht jedes Segelschiff aus drei wesentlichen Baugruppen: einem oder mehreren Rümpfen, den Segeln und dem Rigg.
Der Rumpf kann aus Stahl, Aluminium, glasfaserverstärktem Kunststoff (GFK), Beton oder Holz gefertigt sein. Schiffe mit einem Rumpf (Yachten und Jollen) werden auch Monohull genannt, im Gegensatz zu Proas, Katamaranen und Trimaranen, die aus zwei bzw. drei parallelen, miteinander verbundenen Rümpfen bestehen und als Multihulls bezeichnet werden. Der Rumpf trägt meist an seiner Unterseite eine Flosse – den Kiel oder das Schwert. Diese Bauteile sollen die Abdrift (das Abtreiben) des Schiffes bei seitlichen Winden verringern (siehe Rumpfformen und Stabilität), bzw. die Stabilität des Schiffes bei Seitenlage (Krängung) gewährleisten.
Die Segel werden allgemein in Rahsegel und Schratsegel eingeteilt. Rahsegel sind die für alte Segelschiffe typischen viereckigen Segel, die quer zur Mittschiffsebene stehen und dadurch vorzüglich zum Segeln bei Wind von hinten (achterlicher Wind) geeignet sind. Zum Segeln schräg gegen den Wind, beim Kreuzen, sind sie aber, im Verhältnis zu modernen Segeln, nur zu großen Wendewinkeln fähig. Sie sind daher heute, mit Ausnahme von Traditionsschiffen, nicht mehr oder nur noch selten gebräuchlich.
Im Gegensatz dazu ermöglichen die heute üblichen Schratsegel, die mit Ihrer Vorderkante (Vorliek) in der Mittschiffsebene zum Beispiel am Mast befestigt sind, auch ein Segeln des Schiffes schräg gegen den Wind (am Wind). Es gibt noch feinere Unterteilungen nach der Segelform, z. B. in Lateinersegel, Luggersegel, Sprietsegel, Gaffelsegel, und Hochsegel.
Der große, bauchige, meist bunte Spinnaker, auch einfach nur "Spi" genannt, nimmt eine Sonderstellung ein, da er weder der Gruppe der Rahsegel noch der Gruppe der Schratsegel zugeordnet werden kann. Er wird nur an seinen drei Ecken gehalten und dient hauptsächlich dazu, achterlichem Wind eine große Angriffsfläche zu bieten.
Als Segelmaterial wurde früher Baumwolle verwendet. Heute ist es weitgehend durch Polyestergewebe ersetzt worden, bei modernen Regattaschiffen auch durch Aramidfasergewebe (Handelsname Kevlar) oder Laminate.
Zum Rigg (manchmal auch Takelage genannt) zählen Mast und Baum sowie das stehende und das laufende Gut. Gut bedeutet in diesem Zusammenhang soviel wie Tauwerk. Das stehende Gut besteht fast immer aus Stahldraht und stützt den Mast ab. Dazu gehören unter anderem die Stage, die den Mast nach vorne und hinten halten, und die Wanten, die ihm seitlichen Halt geben. Als laufendes Gut wird alles Tauwerk am Schiff bezeichnet, das zum Einstellen der Segel dient. Dazu gehören insbesondere Fallen, mit denen Segel gesetzt und geborgen werden, und Schoten, mit denen der Anstellwinkel der Segel zum Wind verändert wird. Je nach Takelungsart besitzen Schiffe einen (Slup, Kutter) oder mehrere Masten (Yawl, Ketsch, Schoner) mit jeweils einem oder mehreren Segeln.
Ein Segelschiff wird durch zwei Effekte vorangetrieben: durch Winddruck auf das Segel und durch Luftströmung um das Segel. In der Praxis überlagern sich meistens beide Effekte, wobei je nach Kurs zum Wind der eine oder der andere Teil überwiegt. Beim fahrenden Schiff ist die Gegenkraft zum Vortrieb im Wesentlichen der Wasserwiderstand, der auf den Schiffsrumpf wirkt. Der hauptsächliche Vortrieb entsteht durch die Übertragung des Winddruckes auf den oder die segelführenden Mast(en), und die Kraft überträgt sich wiederum auf den Schiffsrumpf. Der Rumpf wird quasi „mitgezogen“.
Trifft der Wind von hinten (auf Vorwindkurs) oder von schräg hinten (auf Raumwindkurs) auf das Segelschiff, erfolgt der Antrieb des Segelschiffes durch den Widerstand, den die Segel dem Wind entgegensetzen. Die Luftströmung wird dabei unterbrochen und der Wind versucht, den Widerstand „wegzuschieben“. Diese Art des Vortriebs wird am günstigsten durch die früher auf Großseglern verwendeten Rahsegel genutzt. Moderne Segelschiffe mit Schratsegeln sind nicht besonders gut für den Antrieb durch Widerstand geeignet, da es den Schratsegeln besonders im oberen, wirksameren Bereich an Segelfläche fehlt.
Um gut kreuzen zu können, sind Schratsegel von Vorteil. Diese heute üblicherweise verwendeten, dreieckigen Segel verhalten sich strömungstechnisch ähnlich dem Tragflügel eines Flugzeuges. Die Wölbung (der Bauch) des Segels bewirkt komplexe aerodynamische Abläufe und Strömungen rund um das Segel. Im Wesentlichen führen sie dazu, dass die Luft aus ihrer ursprünglichen Richtung (also aus der Richtung des scheinbaren Windes) abgelenkt wird. Dazu ist eine Kraft erforderlich. Diese Kraft wird zum Teil in Vortrieb und zum anderen Teil in Abdrift nach Lee und – durch den Widerstand des Kiels oder Schwertes unter Wasser – in Krängung (Schräglage des Schiffes) umgesetzt. Da die Segel nur bei Umströmung Auftrieb (bzw. Vortrieb) liefern, spricht man von dynamischem Auftrieb.
Entscheidend beeinflusst wird der Vortrieb am Segel – und damit die Antriebskraft und die Geschwindigkeit des Bootes – durch den Winkel zwischen Segel und Wind, dem sogenannten Anstellwinkel. Ist dieser Winkel zu klein, beginnt das Segel zu killen (flattern). Ist der Winkel zu groß, reißt die Luftströmung auf der Leeseite des Segels ab, es entstehen Luftwirbel und der Auftrieb bricht zusammen. Durch Trimmen wird der richtige Winkel zwischen Segel und Wind eingestellt.
Hauptartikel: Stabilität
Eine wesentliche Aufgabe des Kiels oder Schwertes besteht darin, dem seitlich wirkenden Winddruck auf das Segel einen Widerstand unter Wasser entgegenzusetzen, um die Abdrift nach Lee zu verringern. Die daraus resultierende Schräglage des Bootes bezeichnet man als Krängung. Auch durch Seegang kann ein Boot in Krängung versetzt werden. Unter der Stabilität eines Bootes versteht man seine Fähigkeit, diese Krängung auszugleichen und selbständig wieder in die aufrechte Lage zurückzukehren. Dies kann auf zwei unterschiedliche Arten geschehen: einerseits durch Formstabilität, bei der die Rumpfform des Bootes eine Rückkehr in die Ausgangslage begünstigt, und andererseits durch Gewichtsstabilität, bei der ein tief liegender Gewichtskiel das Boot wieder in die aufrechte Lage zwingt.
Bei gewichtsstabilen Yachten erzeugt der Gewichtskiel ein aufrichtendes Drehmoment, das mit zunehmender Krängung immer stärker wird. Ein solches Boot besitzt eine geringe Anfangsstabilität, aber eine hohe Endstabilität, und kann nur unter sehr schweren Wind- und Seegangsbedingungen kentern. Im Gegensatz dazu erfolgt bei formstabilen Booten, wie beispielsweise einer Jolle, der Ausgleich der Krängung durch den Auftrieb des Bootskörpers und eine Verlagerung des Mannschaftsgewichtes nach Luv (Ausreiten). Da durch die Krängung gleichzeitig der Winddruck im Segel abnimmt, kann eine Schräglage bis zu einem bestimmten Grad auf diese Art kompensiert werden. Bei zunehmender Krängung reduziert sich allerdings das aufrichtende Drehmoment, was letztlich zum Kentern führen kann. Eine Jolle besitzt eine hohe Anfangsstabilität, aber nur eine geringe Endstabilität. Katamarane sind wegen ihrer großen Breite formstabil.