Andrea continues adding index entries + revisions as needed
[goodguy/cin-manual-latex.git] / parts / Advanced.tex
1 \chapter{Advanced Editing}%
2 \label{cha:advanced_editing}
3
4 \section{Proxy}%
5 \label{sec:proxy}
6
7 Proxies was introduced to allow for a smoother timeline experience. Full HD and everything from 4K size up are usually very large in file size. In addition, some commonly used codecs (e.g. h264/5) are very compressed and interframe type, so they are more stressful for timeline playback. These files cause performance problems on weaker PCs. As a solution the developers have introduced proxies to reduce the file size. Reduced means to minimize the resolution/dimension, as usually not the full resolution is needed, because the compositor usually takes only a fraction of the computer screen. Therefore the scaling factor, which indicates how much the original resolution should be reduced. 
8 There is also the \textit{proxy 1:1} that maintains the original resolution but still allows you to act on the codec (lowering the bit rate, for example). See also next section: \ref{sec:transcode}.
9 When rendering, the original setting will be used to avoid loss of image quality.  
10
11 To use the proxy in a classic way, i.e. as a scaling, select \texttt{Settings $\rightarrow$ Proxy settings} and change the Scale factor from Original size to your downsized choice.  You can choose ffmpeg as the File Format and a choice of various codecs associated with that.  A good choice is the default of mpeg which can usually be quite fast.  In addition, to modify values for that codec, click on the wrench icon.
12
13 We can use the \textit{Proxy 1:1} in two ways: setting "1" as \textit{Scale factor}, or check the \textit{Rescaled to project size (FFMPEG only)}  button. In this mode we don't have scaling, i.e. downsize, but only variations of the codec parameters that allow to maintain the original resolution. The advantage is that you can use filters that require the original size to work well. NB: if we set any scaling, by activating the \textit{Rescaled to project size (FFMPEG only)} button we automatically lose scaling and enter Proxy 1:1 mode.
14
15 When you have completed your choices, just click OK, and then the video tracks will be rendered. This may take some time, but previous proxy renders will be reused.
16
17 The proxy videos will be added to your assets in a separate Proxy folder, and the video track edits will use the proxies.
18 The assets in both the Media folder and Proxy folder will look proxied when dragged to the Viewer although the scale may be different.
19 Proxy downsizing renders all loaded tracks, but only work on the $1^{st}$ video layer of any multi-layer media.  Rendered proxy media is saved in the same directory as the original media.
20 However, if you proxy your session, the clips do not get proxied to the Proxy folder, but if you Drag and Drop the clip from the Clip folder to the Viewer or the Timeline, you will see that it too is proxied.  
21 As usual, you can delete proxy files from the project or disk in the Resources window if you no longer want to retain them.
22 And you can save your project either as proxied or not.
23
24 Because Proxy works on the original media in all circumstances, when you resize the
25 media in the Resources window, it does not actually resize the media but puts it in
26 a \textit{buffer} in that format. This might lead to some confusion for the user who
27 expects this resizing to be maintained when disabling Proxy for that media. However,
28 that does not happen because the resize is only in a buffer and not in the original
29 media. This result is different than in the case of media \textit{edits}, like cuts or adding plugins because this information is not in a buffer but rather part of the
30 copy \textit{Editing Decision List} (EDL).
31
32 You can also nest clips while in a proxied state, but you can not drag the proxied nested clips to the viewer or the timeline.
33 If you create proxies for Nested clips they will be saved in \texttt{\$HOME/Videos} unless you modify that in
34 \texttt{Settings $\rightarrow$ Preferences, Interface} tab, \textit{Nested Proxy Path}. 
35
36 Let's examine in detail how Proxy and Proxy 1:1 modes work: when the proxy is done with downsize, the Mask, Camera and Projector automations are scaled accordingly. In this situation, the entire project will be re-sized so that the session is in the resized geometry. Not all plugins are useful when the project is scaled, because the keyframe data must be in the original geometry.  In this case, you can use the il Proxy 1:1, by enabling \textit{Scale factor}=1. This has the added advantage that the project size does not change. The main reason for using \textit{Proxy 1:1} is that it does not change the image coordinate data, so that automation and plugin parameters will be in the original project geometry (e.g. Title plugin).
37
38 In the upper right hand corner of the main window, there is a toggle button to easily switch back and forth when you have a proxied file on the timeline.  The icon is to the left of the FF icon.  It will have the letter “Ps” as the icon for Proxy. \quad \includegraphics[height=\baselineskip]{proxy-01.png} \quad This quick switch is especially useful when editing and you need to see a better image temporarily.
39 The "P" is green when the proxy is active and red when it is disabled. The "s" is white when in \textit{Proxy 1:1} mode and red when downsize.
40
41 \begin{figure}[htpb]
42         \centering
43         \includegraphics[width=0.8\linewidth]{proxy-02.png}
44         \caption{Proxy settings dialog}
45         \label{fig:proxy-02}
46 \end{figure}
47
48 Screencast in figure~\ref{fig:proxy-02} shows the use scaled checked so you can still use plugins and the original project size is kept.  The Scale factor pull-down gives you available size options.  Note the new media dimensions shown (partially covered).  If the size is an odd number, 1 is added to make the dimensions both even numbers.
49
50 To go back to the original media for good, simply take the Scale factor to Off. However, if we decide to reuse the proxies, these, which have not been deleted from the Hard Disk but only from the project, will still be used without making new rendering. To completely cancel the created proxies we will have to delete them manually from the Hard Disk.
51
52 There is also a convenient \textit{Beep on done volume} bar included so that you can work on other tasks until there is an audible notify of completion.  The default volume is set to 0 for no audible notify.
53
54 A good choice for classic proxy settings with 1080p source video is:
55
56 \begin{lstlisting}[numbers=none]
57 Scale Factor:   1/4
58 File Format:    FFMPEG - mpeg
59 Video Preset:
60 Compression:    mpeg.mpeg
61 Bitrate:        2000000
62 Quality:        -1
63 Pixels:         yuv420p
64 \end{lstlisting}
65
66 If you get errors for some videos, such as those with strange variable bit rate or some types of files made on a smartphone, an usually reliable alternative is to change the following parameters:
67
68 \begin{lstlisting}[numbers=none]
69 File Format:    FFMPEG - mov
70 Video Preset:
71 Compression:    mov.mov
72 \end{lstlisting}
73
74 Or if you want small files with high image quality, a File Format of \texttt{m2ts} is optimal.  For example a 1 GB file can be reduced to 50 MB with scale $\frac{1}{2}$. 
75
76 Checking the \textit{Creation of proxy on media loading} results in any additional media loads to be automatically proxy scaled.  However, single frame media such as PNG or JPEG \textit{stills}, can not be scaled to \textit{stream} media.  If this type of media exists, you should \textit{Proxy 1:1}.
77
78 If you get error messages when creating proxies, check the Video wrench settings.  These usually default to values that are expected to work correctly for the \textit{File Format} and codec you selected but they can be changed and may result in errors.  If you get an error message of \textit{check\_frame\_rate failed} followed by \textit{Error making proxy} in the popup Errors window, do just that and check the Frame rate value by going to the Resources window, Media folder, and use the right mouse button for the Info option for that specific media in question.  You can change the frame rate in this window to a more codec acceptable value.  Different codecs may have different legal values.
79
80 More specific information on which plugins need to use \textit{Proxy 1:1}. is provided here next. If the keyframe data uses coordinate data that is absolute, then the Factor scale = 1 should be used.  If the data is normalized (like always $0-100\%$) then the proxy can be done with downsize (i.e. classic \textit{Proxy}).  The session geometry format, shown in \texttt{Settings $\rightarrow$ Format} as $width \times height$, is changed if scale factor $\neq$ 1 is used to cause all of the data to be in the reduced format.  If this affects the plugin operation, then \textit{Proxy 1:1} should be used.  Examples of plugins that need the \textit{Proxy 1:1} are: Title, AutoScale, Scale, ScaleRatio, and Translate.  Most others are safe to use with downsize.
81
82 \section{Transcode}%
83 \label{sec:transcode}
84
85 Transcode, an option under the \textit{Settings} pulldown right next to the Proxy settings option, is a type of full resolution \textbf{1:1 Proxy}.
86 The process of transcoding works directly from the resource; it is independent of the timeline. 
87 All of the loaded asset media will be converted, that is, rendered in the selected format and loaded onto the timeline. 
88 Menu choices besides the usual File Format and File Type include: \textit{Tag suffix} (to add to media filename), \textit{Remove originals from project}, \textit{Into Nested Proxy directory} (an option to have the file saved here instead of the location of the original media), and \textit{Beep on done} volume.
89
90 The settings of the project have an effect, for example the dimensions are taken into account. The resulting files are also larger than if they were created directly with ffmpeg.
91 Transcode works for videos with or without audio and even single frame files, like png's.
92 If you have a video file that also contains audio, and you convert only the video, the original audio will stay on the timeline if do not check \textit{Remove originals from project}. Or vice versa if audio converted and not video.
93 Multiple stream media will only transcode the first stream (this would be like the TV channel recordings in the United States).
94 You will get an error message if you already have a transcoded file in the selected format with the same suffix name and try to transcode it again with a different selection made -- you will have to delete that file first. An example would be
95 an already converted file that has both video and audio and now you request video only. 
96
97 The BIGGEST gain from using this is if you have media that is not \textit{seekable}, that is, you can play it from the beginning but can not move to another spot and have the audio or video play correctly. A video file with no keyframes makes seeking next to impossible, but then a Transcode generally adds these keyframes. This is particularly useful for the \texttt{mkv} container, which often has seek problems.
98
99 Another important function of Transcode is being able to convert the project's media into a high-quality \textit{mezzanine} codec (sometimes also called \textit{intermediate} codec), which makes timeline work lighter and more efficient. In fact such codecs (ffv1, ProRes, DNxHD, OpenEXR, huffyuv, etc) are generally little or not at all compressed; the type of compression is intraframe --more suitable for editing, and the image quality (4:2:2 up; 10-bit color up; floating point; etc) is suitable for \textit{Color Correction}, \textit{Chroma Key} and \textit{Rotoscoping}. The use of mezzanine codecs leads to very large files, so you need to make sure you have enough storage space.
100
101
102 \section{OpenEDL}%
103 \label{sec:openedl}
104
105 To edit EDL that is included with your project as Clips, Nested
106 Clips, Referenced File, or Xml you can use the option \textit{Open
107         EDL} in the Resources window for the highlighted media.  Then
108 with a simple button click you can return to your main timeline project.
109 For example, if you have a nested clip that originally had several
110 plugins added to it before it was nested, you can edit those plugin
111 parameter values. Previously to make any changes to these types of
112 EDL you had to remake the whole clip from scratch.  The program is 
113 actually "opening" the file as it currently exists for that particular
114 media so that it can be edited separately from the project EDL.  
115
116 Here is how this works. In the Clip or Media folder or on a timeline
117 EDL edit, the option \textit{Open EDL} for the highlighted clip or
118 nested clip is available so that when you choose this option, that
119 EDL will be brought up on the timeline superseding the current EDL
120 that exists on the timeline.  Now, once the clip is open on the
121 timeline, you can edit it however you want. The previous timeline
122 EDL is \textit{pushed onto a stack} so it can be recalled by
123 \textit{popping the stack} with a click of the left mouse button in
124 the upper right hand corner of the timeline to the left of the
125 \textit{shell cmds} icon.  Initially this button displays a 0 to
126 indicate your initial timeline/project.  Then this button will read
127 1 if you choose \textit{Open EDL} and then back to 0 and your
128 original timeline with the left mouse click.  You can go several
129 levels deep so instead of 1, it could be 2, 3, $\dots$ but this
130 requires some thought to avoid potential confusion.
131
132 An example of a typical set of steps to follow is:
133 \begin{enumerate}
134         \item Load your media using insertion strategy of \textit{Replace
135                 current project}.  There will be number 0 in the upper right hand corner
136         of the main menu with the tooltip of \textit{Close EDL}.
137         \item Highlight a selection on the timeline and press the
138         \textit{To clip} icon and click the green checkmark OK.
139         \item In the Resources window, open the Clip folder and you will
140         see that Clip 1 is present.
141         \item Highlight Clip1 and right mouse the item to bring up
142         available options and select \textit{Open EDL}.
143         \item Now you will see the timeline change from the original
144         media to just the clip content and the number in the upper right hand
145         corner will change from 0 to 1.
146         \item Add a visible effect, like AgingTV to the timeline.
147         \item Click on the number 1 in the main menu bar to see the timeline
148         restored to the original media.
149         \item Drag the clip from the Resources Clip folder to the
150         timeline and you will see the AgingTV effect.
151 \end{enumerate}
152
153 You can follow the same steps as above by first using the option
154 \textit{Nest to media} in the Clip folder which nests the clip and
155 moves it out of the Clip folder to the Media folder.  Then use
156 \textit{Open EDL} on the Nested EDL in the media folder.  When you
157 Open EDL and edit the changes, those changes will take affect on any
158 and all occurrences of that nested clip on the current and/or
159 original timeline. The option to unnest that clip and put that back
160 into the Clip folder is the option \textit{EDL to clip}.  The nested
161 clip is still in the Media folder.  It will now have a name of the
162 next available Clip number but the comment contains the previous name so
163 you can tell where it came from.
164
165 Instead of using the number on the main menu to close the current
166 EDL, both the Media and Clip folders have \textit{Close EDL} options
167 with the left mouse button. Clicking on the number button is quick and
168 easy but for infrequent usage it is not obvious, whereas if you use
169 \textit{Open EDL} you see \textit{Close EDL} right below that and so
170 it is very obvious.  In addition in the case of where you have
171 opened a EDL, and you no longer see that clip in the folder, the
172 right mouse button where no media is highlighted will also display
173 the Close EDL option.
174
175 %\pagebreak
176 \begin{figure}[h]
177         \centering
178         \includegraphics[width=1\linewidth]{editing-img001.png}
179         \caption{Once you have an Open EDL, the easiest way to close it.}
180         \label{fig:open_edl}
181 \end{figure}
182 \relax
183
184 In addition to the \textit{Open EDL} option in the Resources menu,
185 this option is available on the timeline when the cursor is on an
186 EDL-type edit. To get to this option, click on the middle mouse
187 button on that edit.  If it is not EDL, the option will not be
188 shown.  In summary:
189
190 \begin{center}
191         \begin{tabular}{ll}
192                 \toprule
193                 Media folder of Resources window & Open EDL for Nested or Referenced EDLs\\
194                 Clip folder of Resources window & Open EDL for clips\\
195                 Track timeline & Open EDL for Nested or Referenced EDLs\\
196                 \bottomrule
197         \end{tabular}
198 \end{center}
199
200 An aside -- when nesting and unnesting clips to take advantage of
201 this feature, names of the media can lead to some confusion.  For
202 example, if you nest a clip, the new name in the Media folder is the
203 word \textit{Nested} followed by an underscore with the date and
204 timestamp, another underscore, and then the clip name.  Then when
205 you unnest this Media folder clip via the \textit{EDL to clip}
206 option, the name will be changed in the Clip folder to the next
207 available Clip number.  However the comment field will reflect the
208 nested clip name from which it was derived.  To avoid confusion you
209 can easily change the name for these clips in either the Clip or
210 Media folder because they are not real files at this point. To do
211 so, highlight the clip name in Resources, click on Info and type in
212 a new name.
213
214 For additional safety, the \textit{Open EDL} feature includes
215 additional backup capabilities. Automatically \CGG{} saves a backup
216 when certain changes are made or you can always use the shortcut `b'
217 to do one yourself, although keep in mind it will be overwritten
218 whenever \CGG{} wants to do another backup.  Now there is a shortcut
219 for the backup shortcut `b' so you can keep your hand on the mouse
220 instead of the keyboard.  Just click on the number button in the upper right
221 hand corner of the main window.  If number is at 0, it backs up to
222 backup.xml, if at 1, it backs up to \texttt{backup1.xml} and so on
223 \dots up to \texttt{backup9.xml}.
224
225 When \textit{Open EDL} is invoked, the current EDL and current undo
226 stack are both \textit{pushed}, and the active session EDL is
227 replaced with the target clip/nested edl.  A new undo stack is
228 created, and the active \texttt{backup.xml} file name is decorated
229 with the stack level.  So, \texttt{backup.xml} is
230 \texttt{backup1.xml} when your edits are at stack level 1,
231 \texttt{back\-up2\-.xml} at stack level 2, and so on.  This means
232 that if you \textit{load backup} at stack level 1, the session will
233 reload from history at stack level 1, not the main session.
234
235 See a real-world workflow at appendix \nameref{sec:workflow_openedl_nested_clips}
236
237 \section{File by Reference}%
238 \label{sec:file_by_reference}
239
240 It is sometimes handy to have EDL assets not as a copy, but as a
241 reference that is automatically updated into your project.  Suppose
242 you have several short videos that at the end have the same credits
243 which include the current year such as 2019.  But now it is 2020 and
244 all of the videos would have to be individually updated with the new
245 date.  By including a \textit{Referenced File} as the EDL file type
246 when you create each of the videos, you can just change the one
247 credits xml file and the next time you load one of the videos and
248 render it, it will now automatically have the updated information.
249
250 The purpose of this feature is to be able to rework a smaller
251 section of a global master project at any time, which can be done by
252 an "assistant" (i.e. external software like GIMP or Inkscape, $\dots$) and then this work is automatically reflected in the
253 global master project.  It is for \textbf{advanced usage only}.
254
255 Up until the addition of this feature, \CGG{} has always used copies
256 and no direct reference in order to ensure original data is never
257 compromised.  In the usual case, subprojects as xmls are copied into
258 a master project where subprojects had been inserted, so that if you
259 change something in a subproject or delete a subproject, it would
260 have no affect on the master project.  But now with \textit{File by
261         Reference}, any project that uses a referenced file will
262 automatically include any changes made to the referenced file when
263 loaded.  At the same time, if you use the EDL file NOT as a
264 referenced file in a project since it is then just a copy, it will
265 not be updated.  Because of this difference, the user needs to be
266 very aware of what using this feature could do.
267
268 \textbf{Use with extreme caution}.  However, there are several
269 built-in safety features and a warning that should never be turned
270 off even though it gives you the option to do so.  These include:
271
272 \begin{enumerate}
273         \item When the \texttt{File, Load files} menu is opened, the EDL
274         strategy will always be set to just EDL as default.  Although, if
275         you use Apply and leave the Load Menu open, it will stay changed to
276         what you selected until it is re-opened.
277         \item When an EDL is opened as \textit{Reference}, the color of
278         that file name in the Resources Media folder is different in order
279         to serve as a reminder that it is special.
280         \item A warning message is displayed in a popup window when you
281         load a \textit{File by Reference} that reads \texttt{Other projects can
282         change this project and this can become a broken link}.  Although
283         you can check the warning box to never see this warning again, you
284         would be well advised to not do so.  It is a great reminder of
285         consequences and you will not want to be cavalier about the warning.
286         Instead just use the X to dismiss the warning.
287 \end{enumerate}
288
289 Here is a step by step example of how you can use \textit{File by
290         Reference}:
291 \begin{enumerate}
292         \item Start up \CGG{} and use the Title plugin to create a new
293         credits file.  Save as credits.xml.
294         \item Start a New project and then load an existing master
295         project to the timeline.
296         \item Load the credits file you created in step 1 with a Load
297         Strategy of Create Resources Only and with EDL Strategy as
298         \textit{Reference}.
299         \item Note the color change in the credits.xml filename and the
300         reference comment in the Resources Media folder.
301         \item Drag the credits file to an empty spot on the timeline.
302         Save this new master project and quit.
303         \item Start \CGG{} up again.  Load credits.xml and make a change
304         to the Title and save again.
305         \item Exit \CGG{}; restart \CGG{}; load your master project and
306         now you will automatically see on the timeline the changes you just
307         made in the previous step.
308 \end{enumerate}
309
310 \section{Trimming}%
311 \label{sec:trimming}
312
313 With some edits on the timeline it is possible to do trimming. By
314 trimming you shrink or grow the edit boundaries by dragging them. In
315 drag and drop mode or cut and paste mode, move the cursor over an
316 edit boundary until it changes shape. The drag handle shows as a
317 left or right facing fat arrow when you cursor near the clip start
318 or end.  If the cursor faces left, the dragging operation affects
319 the beginning of the edit. If the cursor faces right, the dragging
320 operation affects the end of the edit.
321
322 The effect of each drag operation not only depends on the behavior
323 button but whether the beginning or end of the edit is being
324 dragged. When you release the mouse button, the trimming operation
325 is performed.
326
327 For all file formats, other than still images, the extent of the
328 trimming operation is limited to the source file length. Attempting
329 to drag the start of the edit beyond the start of the source, limits
330 it to the source start. In all trimming operations, all edits which
331 start on the same position as the cursor when the drag operation
332 begins are affected. You have to disarm tracks in order to prevent
333 edits from being affected.
334
335 You have 6 different choices of which mouse button to use for
336 specific types of editing while using the drag handle.  You change
337 the drag handle mouse effects by using the \texttt{Settings
338         $\rightarrow$ Preferences  $\rightarrow$ Interface} tab and
339 modifying the Editing section as shown in the next
340 figure~\ref{fig:trim}. The drag handle affects not only the clip you
341 are working on but also frequently the entire duration of all clips
342 on the timeline.
343
344 \begin{figure}[htpb]
345         \centering
346         \includegraphics[width=0.5\linewidth]{trim.png}
347         \caption{Default choices for mouse: Ripple for button 1; Roll
348                 for button 2; Slip for button 3}
349         \label{fig:trim}
350 \end{figure}
351
352 A description of the fundamental/common terminology for choices
353 follows.
354
355 \begin{description}
356         \item[All Edits (ripple)] shorten or lengthen the start or end
357         of a single piece of media while moving all media to the right of
358         that clip up or down on the timeline correspondingly.  Timeline
359         duration is modified.  In a drag \textit{All Edits} operation, the
360         beginning of the edit either cuts data from the edit if you move it
361         forward or pastes new data from before the edit if you move it
362         backward. The end of the edit pastes data into the edit if you move
363         it forward or cuts data from the end of the edit if you move it
364         backward. All the following edits shift. If you drag the end of the
365         edit past the start of the edit, the edit is deleted.
366         \item[One Edit (roll)] move the in and out point of a single
367         clip without changing the timeline duration. In a drag \textit{One
368                 Edit} operation, nothing is cut or pasted. If you move the beginning
369         or end of the edit forward, the source reference in the edit shifts
370         forward. If you move the beginning or end of the edit backward, the
371         source reference shifts backward. The edit remains in the same spot
372         in the timeline but the source shifts.
373         \item[Src Only (slip)] move the in and out point of a single
374         clip without changing the timeline duration. In a drag \textit{Src
375                 Only} operation, nothing is cut or pasted. If you move the beginning
376         or end of the edit forward, the source reference in the edit shifts
377         forward. If you move the beginning or end of the edit backward, the
378         source reference shifts backward. The edit remains in the same spot
379         in the timeline but the source shifts.
380         \item[Slide] a single clip is moved but retains its current in
381         and out point; however the out point of the clip to the left changes
382         and the in point of the clip to the right also changes.  Timeline
383         duration remains the same.
384         \item[Edge Left/Right] moves the edge of the clips.
385         \item[No effect] no changes are made.  You might want to use
386         this choice to prevent accidental movements.
387 \end{description}
388
389 The next table displays the options and results
390 with the Key Table here first.
391
392 \begin{lstlisting}[style=sh]
393 s = src media start
394 p = proj position
395 l = length
396 c = cut distance
397 rest == p+=c: for rest of clips
398 01 = flags edits_moved, rest_moved
399 \end{lstlisting}
400
401 \renewcommand{\arraystretch}{1.15}
402 \begin{center}
403         %\caption{}
404         %\label{tab:}
405         % Tell table to adjust font to fix on the page using \resize    
406                 \begin{longtable}{lllll}
407                         \toprule
408                         &  & \textbf{Drag Left} & \textbf{Drag Right} &\\
409                         \midrule
410                         \multicolumn{2}{l}{\textit{curr s += c, l -= c; + rest}} & $\leftarrow$ & $\rightarrow$ & \textit{rest}\\
411                         abc12345xyz & \textbf{Ripple} left edge 11 $\rightarrow$ & abc012345xyz & abc2345xyz &\\
412                         \midrule
413                         \multicolumn{2}{l}{\textit{curr l += c; + rest}} & $\leftarrow$ & $\rightarrow$ & \textit{rest}\\
414                         abc12345xyz & \textbf{Ripple} right edge 01 $\rightarrow$ & abc1234xyz & abc123456xyz &\\
415                         \midrule
416                         \multicolumn{2}{l}{\textit{prev l += c; curr ps+= c, l -= c}} & $\leftarrow$ & $\rightarrow$ &\\
417                         abc12345xyz & \textbf{Roll} left edge 00 $\rightarrow$ & ab012345xyz & abcd2345xyz &\\
418                         \midrule
419                         \multicolumn{2}{l}{\textit{curr l += c; next ps+= c, l -= c}} & $\leftarrow$ & $\rightarrow$ &\\
420                         abc12345xyz & \textbf{Roll} right edge 00 $\rightarrow$ & abc1234wxyz & abc123456yz &\\
421                         \midrule
422                         \multicolumn{2}{l}{\textit{s -= c}} & $\leftarrow$ & $\rightarrow$ &\\
423                         abc12345xyz & \textbf{Slip} left edge 10 $\rightarrow$ & abc23456xyz & abc01234xyz &\\
424                         \midrule
425                         \multicolumn{2}{l}{\textit{s -= c}} & $\leftarrow$ & $\rightarrow$ &\\
426                         abc12345xyz & \textbf{Slip} right edge 10 $\rightarrow$ & abc23456xyz & abc01234xyz &\\
427                         \midrule
428                         \multicolumn{2}{l}{\textit{prev l += c; curr p+= c; next ps += c, l -= c}} & $\leftarrow$ & $\rightarrow$ &\\
429                         abc12345xyz & \textbf{Slide} left edge 10 $\rightarrow$ & ab012345wxyz & abcd12345yz &\\
430                         \midrule
431                         \multicolumn{2}{l}{\textit{prev l += c; curr p+= c; next ps += c, l -= c}} & $\leftarrow$ & $\rightarrow$ &\\
432                         abc12345xyz & \textbf{Slide} right edge 10 $\rightarrow$ & ab12345wxyz & abcd12345yz &\\
433                         \midrule
434                         \multicolumn{2}{l}{\textit{curr s -+= c, l += c; + rest}} & $\leftarrow$ & $\rightarrow$ & \textit{rest}\\
435                         abc12345xyz & \textbf{Edge} left edge 11 $\rightarrow$ & abc2345xyz & abc0123456xyz &\\
436                         \midrule
437                         \multicolumn{2}{l}{\textit{curr l -+= c; + rest}} & $\leftarrow$ & $\rightarrow$ & \textit{rest}\\
438                         abc12345xyz & \textbf{Edge} right edge 01 $\rightarrow$ & abc1234xyz & abc123456xyz &\\
439                         \bottomrule
440                 \end{longtable}
441 \end{center}
442 \renewcommand{\arraystretch}{1}
443
444 Next, a more immediate and colorful view shows these trimming
445 options (figure~\ref{fig:trim-color}).
446
447 \begin{figure}[htpb]
448         \centering
449         \includegraphics[width=0.8\linewidth]{trim-color.png}
450         \caption{The 5 types of Trim: note the different lengths of the results.}
451         \label{fig:trim-color}
452 \end{figure}
453
454 \paragraph{How to do a J-cut or L-cut} A J-cut is a split edit film
455 editing technique in which the audio from a following scene overlaps
456 the picture from the preceding scene, so that the audio portion of
457 the later scene starts playing before its picture as a lead-in to
458 the visual cut.  An L-cut is a different split edit film editing
459 technique in which the audio from preceding scene overlaps the
460 picture from the following scene, so that the audio cuts after the
461 picture, and continues playing over the beginning of the next scene
462 (figure~\ref{fig:j-cut}). To do either a J-cut or an L-cut, you
463 first shorten the first or second video a little.  Then you block
464 the audio tracks from changing by disarming the appropriate tracks.
465 Finally use \textit{One Edit (roll)} the cutting edge off the
466 videos.  Moving to the right creates a J-cut and moving to the left
467 creates an L-cut.
468
469 \begin{figure}[htpb]
470         \centering
471         \includegraphics[width=0.8\linewidth]{j-cut.png}
472         \caption{J-cut to left and L-cut to right}
473         \label{fig:j-cut}
474 \end{figure}
475
476
477 \subsection{Split View in Compositor Using the Drag Handle with Trim}%
478 \label{sub:split_view_compositor_using_drag_trim}
479
480 The Trim Feature using the drag handle provides some good ways to
481 view your video while editing.  The playback position in the
482 compositor is updated live and the view in the compositor can be
483 split so that in the left half of the compositor you can see the
484 last frame of the left clip and in the right half the first frame of
485 the right clip.  Dragging edits can not be extended past the
486 beginning or the end.
487
488 First familiarize yourself with button operation; check your setup
489 by executing the following step.  In the \texttt{Settings
490         $\rightarrow$ Preferences $\rightarrow$ Interface} tab, Editing
491 section, clicking on the edit boundaries can be set for Button 1, 2,
492 3 as one of the following:
493
494 \textit{Ripple}; \textit{Roll}; \textit{Slip}; \textit{Slide};
495 \textit{Edge} or \textit{No effect}
496
497 Now to use this feature, create a track with edits that have trims
498 on the left and/or the right. The edit boundary can be modified
499 using \textit{drag handles} at the boundary between the edits
500 (figure~\ref{fig:trim-display}).
501
502 \begin{figure}[htpb]
503         \centering
504         \includegraphics[width=1\linewidth]{trim-display.png}
505         \caption{Split compositor screen showing the result of the Trim feature}
506         \label{fig:trim-display}
507 \end{figure}
508
509 \begin{description}
510         \item[Left Mouse Button (LMB) usage:] If you grab the edit
511         handle from the right side, you will see a left arrow and dragging
512         the boundary will modify the right edit playback starting time. If
513         you grab the edit handle from the left side, you will see a right
514         arrow and dragging the boundary will modify the left edit playback
515         ending time. In both cases, the composer will show the edit endpoint
516         of the changed edit.
517         \item[Shift LMB usage:] The effect on the edits is the same as
518         described above, but the composer will show a split screen of the
519         left and right edits as they appear at the drag handle
520         boundary. Dragging will only change one of the two images, since
521         only one edit is being changed.
522         \item[Middle Mouse Button (MMB) usage:] Both the left and the
523         right edit ending/starting times are updated.  The image shown in
524         the compositor will be drawn from the side of the drag grab, that is
525         the left if it is grabbed from the left, and the right if it is
526         grabbed from the right.
527         \item[Shift MMB usage:] The effect on the edits is the same as
528         described above, but the composer will show a split screen of the
529         left and right edits as they appear at the drag handle boundary.
530         Dragging will change both of the two images, since both edits are
531         being changed.
532         \item[Right Mouse Button (RMB) usage:] The start/end point of
533         the current edit is moved, but the edit length is unchanged only one
534         image changes since only one edit endpoint is view is updated.
535         \item[Shift RMB usage:] The effect on the edits is the same as
536         described above, but the composer will show a split screen of the
537         left and right edits as they appear at the drag handle boundary.
538         Dragging will only change one of the two images, since only one edit
539         is being changed.
540 \end{description}
541
542
543
544
545 \section{Nesting clips and assets}%
546 \label{sec:nesting_clips_and_assets}
547
548 \subsection{Nested Assets}%
549 \label{sub:nested_assets}
550
551 A nested asset is an EDL session that
552 embeds an existing EDL session, all tracks, all plugins, editing,
553 and effects into a media object that appears as one audio/video
554 media object, no plugins, editing, or effects.  It is as if the
555 existing EDL was rendered, and loaded in its place.  This has
556 several interesting side effects.  First, you don’t have to render
557 the entire media file to see any portion.  Second, it requires no
558 rendering compute time or storage.  Third, it changes the precedence
559 of the composer so that you get more control over the projection and
560 automation, so that the results can be sent into another rendering
561 step, not simply part of the current stack.  It groups the plugin
562 stack in much the same way that an arithmetic expression is grouped
563 by parenthesis.
564
565 The EDL session and the rendered output are visually equivalent.
566 Nested assets allow for complex grouping and stacking of effects,
567 and makes media access much more flexible.  This feature can be used
568 recursively, that is, any number of sessions may be stacked and
569 referenced as an asset, as long as all of the rendering resources
570 are available.  Nested assets are added to the timeline by using the
571 pulldown \texttt{File $\rightarrow$ Load files}\dots on the main
572 menu and selecting the \textit{Insertion strategy} of \textit{Nest
573         asset}. The file will be pasted into the timeline over the current
574 selection or at the insertion point.
575
576 It is somewhat important to note that nested assets and nested clips
577 will have index files automatically created.  These index files can
578 start to clutter up your \texttt{\$HOME/.bcast5} directory with
579 files named \texttt{Nested\_\#\#\#.idx} and you may want to
580 periodically delete any index files which are no longer in use.
581
582 \subsection{Nested Clips}%
583 \label{sub:nested_clips}
584
585  It is also possible to create
586 \textit{clips} and convert them to \textit{nested edl}.  This is
587 done by first creating a clip using the standard cut, clipboard,
588 paste, and/or edit panel buttons.  Now, using the resources
589 \textit{clip} folder, select a clip to be nested, and use the right
590 mouse button to select a clip.  This activates the clip popup menu.
591 Select the \textit{Nest to media} menu item, and the clip will be
592 converted to a \textit{Nested: Clip} and put in Media
593 folder. Conversely, you can select a \textit{Nested: Clip}, use the
594 \textit{EDL to clip} menu item, and the clip will be reverted to a
595 \textit{Clip}.  This works similarly to the group / un-group editing
596 features of many graphic design editing programs, but in this case
597 the groups are rendered compositions (figure~\ref{fig:nesting}).
598
599 Nested clips can be proxied and when they are, the resulting files
600 are placed in the user's \texttt{\$HOME/Videos} directory by default.  This
601 can be modified by changing
602
603 \texttt{Settings $\rightarrow$ Preferences $\rightarrow$ Interface}
604 tab, Nested Proxy Path.
605
606 \begin{figure}[htpb]
607         \centering
608         \includegraphics[width=1.0\linewidth]{nesting.png}
609         \caption{Nested clips in Timeline and Resources window}
610         \label{fig:nesting}
611 \end{figure}
612
613 \paragraph{Notes:} creating nested clips is a complicated internal process for \CGG{}, especially for managing audio tracks. Therefore you need to make sure you have your project set up as you expect before you start nesting with the \texttt{Nest to Media} command.  Below are several things to remember.
614
615 \begin{itemize}
616         \item The creation of the nested clip is based on the settings in \texttt{Settings $\rightarrow$ Format}. Be sure that the number of audio tracks and channels is the same as we want to have in the nested clip. In addition, it is better to make each audio track independent from the others (which could be linked in more than one channel) using the option: \texttt{Audio $\rightarrow$ Map 1:1}
617         \item You can do any editing on the nested clip once it is loaded to the timeline. For example we can start an OpenEDL session to make the changes. Once out of the OpenEDL session it may be that the changes made are not visible in the original nested clip. You can fix this by doing RMB on the nested clip in the \textit{Resources/Media} window and choosing \texttt{Rebuild index}. This process may take some time depending on the size of
618 the media; because of the additional time required to do this, it is not done automatically in order to allow the user to make the decision as to when they are done editing enough and need to see the exact results
619 in order to save time.
620         \item Because of the way the timeline thumbnails are displayed, after editing using OpenEDL of a
621 nested clip, the thumbnails of the video track may be redrawn and may look different and out of sync with the
622 way they did originally with respect to the audio waveforms. This is simply a result of the redrawing of the
623 video track which is independent from the redrawing of the audio tracks. The playback is still synchronized.
624 \end{itemize}
625
626 \paragraph{Usage Examples of Nested Clips}
627
628 \begin{description}
629         \item[Example 1:] You want to make a flashback/rewind at the end
630         of your video that represents a quick summary of the entire video in
631         black and white. On he timeline, you have 60 seconds of edits with
632         clips, cuts, zoom in, zoom out and any other edits. Now you want to
633         get this 60 seconds \textit{compressed} to 10 seconds, play in
634         reverse, and in black and white at the end of your video.  You would
635         copy the 60 seconds in a clip, nest the clip in the Clip folder of
636         the Resources window and drag it to the timeline. You will see only
637         a clean clip without all of the edits that were used to create it
638         because nesting display a clip without having to actually use the
639         Render menu.  Now you can add a Reverse effect, Color3way plugin for
640         black and white, and use the Speed auto to get the 60 seconds down
641         to only 10 seconds.
642         \item[Example 2:] You are working on a complex project with a
643         team in a separate location. You create some sub projects, i.e.\
644         sequences, that you or the team will use in the Master project to
645         merge the sequences in the right order and to make the final color
646         correction steps.
647 \end{description}
648
649 In each of the examples you can see the benefit of nesting to create
650 clean looking timelines because of the automatic rendering
651 capability of nesting.
652
653 \section{Multi-Camera / Mixer}%
654 \label{sec:multicamera_mixer}
655
656 Use the Mixer Viewer to see multiple media playing simultaneously in re-sizable mini-viewers.  This can be used in various ways and is useful to edit videos shot by multiple cameras from different viewpoints that were simultaneously recorded in order to create a single good video.  Everything will have to be initially synced so you can decide which one of the camera angles is best suited at any time. 
657
658 The number of cameras/mixers you can have is generally limited to the available resources on your computer.  Currently, the number of File Descriptors available in the OS limits cameras to about 50.  If you have many \textit{mixer viewers} you will probably want to use proxy mode whenever possible.  Also, in the \texttt{Settings $\rightarrow$ Playback A} tab \textit{Video Out} section, uncheck \textit{play every frame} and choosing a Video Driver of \textit{X11} with \textit{use direct X11 render if possible} checked, will provide better performance.
659
660 Figure~\ref{fig:multicam01} shows 9 media sources in the left corner, the composed video in the right corner, the timeline with the top video track with pieces of the 9 overwrites, and the choice in Resources of Mixed.
661
662 \begin{figure}[htpb]
663         \centering
664         \includegraphics[width=1.0\linewidth]{multicam01.png}
665         \caption{Using Mixer capability in Cin for multiple cameras}
666         \label{fig:multicam01}
667 \end{figure}
668
669 \subsubsection*{Easiest Method to Getting Started}%
670 \label{ssub:easiest_method_started}
671
672 \begin{enumerate}
673         \item This method assumes all of your media or cameras are aligned the way you want them already.
674         \item From the \textit{File} pulldown, create a \textit{New project} with the desired format for Audio and Video output (or you can just use the default).
675         \item \texttt{File $\rightarrow$ Load} the media files you want to work with using \textit{Create new resources only}.
676         \item In the Resources window, with  the Media folder, highlight the list of media you want to \textit{Mix}. This is done using a ctrl or shift mouse button press as you would in a standard listbox selection.
677         \item Right click the mouse on the media selection and choose \textit{open mixers}. This opens multiple mixer viewer windows, one for each media item that was highlighted.  You can
678         do them 1 at a time instead.  This also adds the source media tracks to the main window.
679         \item Now use the timeline to play and you will see all viewers/cameras playing.  Stop when you get to the
680         end of the \textit{good} camera playback.
681         \item Simply double click the \textit{good} mixer viewer and from where you first started playing to the playback insertion pointer is the source section, which will be pasted in the destination video/audio tracks at the top of the new project.
682         \item Repeat steps 6-7.  Start playing again, stop when you want, double click the desired mini-viewer!
683 \end{enumerate}
684
685 \subsubsection*{Some Hints and Caveats}%
686 \label{ssub:hints_caveats}
687
688 \begin{itemize}
689         \item You can easily overwrite a section of the new track by \textit{selecting} a section on the timeline, then double click on one of the mini-viewers to overwrite/replace that section.
690         \item If you edit the output tracks, it only edits output tracks, and the input tracks may no longer be lined up.
691         \item You can add a silent section by selecting past a section and start overwriting that section from then on.
692         \item If you use the cursor hairline to create the selection endpoint, it must be past the end of the destination.
693         \item The compositor shows composed media.  This is the media that will be rendered.
694         \item The program always uses overwrite as the paste operation.
695         \item Use the timeline edit handles to move the start and end points of that section.
696         \item Only middle mouse drag handle operations should be used normally.
697         \item Other drags will displace the media source/destination timeline correspondence.
698         \item To re-tile the mixer windows after you have resized and moved them around, you can use the Window
699         pulldown of \textit{Tile mixers} or the shortcut of Alt-t.
700 \end{itemize}
701
702 \subsubsection*{But, I want to use only the first set of audio tracks\dots}%
703 \label{ssub:but_use_only_first_audio}
704
705 There are many cases where you may want to compose using media from several different tracks while using the the same audio tracks as associated from a specific viewer.  Since mixer source tracks can be updated any time by using a mixer toggle, this makes it possible to do this.  
706
707 Procedure to update the mixer audio source track list:
708
709 \begin{enumerate}
710         \item Single click to highlight the mixer window you want to re-associate to the audio track.
711         \item In that audio track’s patchbay click the expand toggle, the arrow on the right side.
712         \item In the expanded pane that appears, there is another arrow on the left side.  This icon has the tooltip \textit{Mixer}.  Click this and because in step \#1 you highlighted the mixer window, it will now be toggled on.  Once you click the mixer icon it will then point up.
713         \item Now, disassociate any audio that is unwanted by expanding its patchbay and toggling off the mixer.
714 \end{enumerate}
715
716 \subsubsection*{Expert Usage}%
717 \label{ssub:expert_usage}
718
719 When you double click a mixer viewer window, it operates an \textit{overwrite} paste operation.  This moves \textit{src} (source) track edits to \textit{dst} (destination) track edits over the same selected timeline region.
720
721 \begin{itemize}[noitemsep]
722         \item \textit{Src tracks} should be not playable and not armed in the main window patchbay gui.
723         \item \textit{Dst tracks} should be playable and armed in the main window patchbay gui.
724 \end{itemize}
725
726 Each mixer viewer maintains a list of the tracks which will be used as src. This list is made visible selecting the window with the left mouse button.  When the mixer viewer is selected, a highlight is drawn around the media image.  All track patchbay \textit{mixer} toggles are updated to reflect the src tracks included in the selected viewer src track list. The track patchbay toggles can be used to manage the list.
727
728 \begin{itemize}[noitemsep]
729         \item \textit{Turning on} a toggle (pointing up) includes the track in the src track list.
730         \item \textit{Turning off} a toggle (pointing right) removes the track from the src track list.
731 \end{itemize}
732
733 New Mixer viewers can be created using the main menu \texttt{Window $\rightarrow$ Mixer Viewer}, or with a shortcut of \texttt{Shift-M}.  When a new viewer is created, the currently enabled patchbay \textit{mixer} toggles are used to create the viewer source track list.  The toggles are cleared after the window is created.  This is to improve the work flow.  Use the following list of steps to create individual mixer viewers.
734
735 To create a list of mixer viewers:
736
737 \begin{enumerate}
738         \item Setup the session \texttt{settings $\rightarrow$ format}, width, height, frame rate, color model, aspect ratio.
739         \item Create dst tracks using the a/v track pulldowns (or use shortcuts "t" / "T"),  armed and playable.
740         \item Append src tracks using \texttt{file $\rightarrow$ open $\rightarrow$ append tracks}, or the resource window using pasting.
741         \item Using the track patchbay, disarm editing and disable playback of the audio/video src tracks.
742         \item Using the track patchbay, mark the new tracks as \textit{mixer} source to be added to the viewer.
743         \item Create a mixer viewer using the main menu pulldown, or the shift "M” shortcut.
744         \item Repeat steps $3-6$ for each mixer viewer needed for the session editing.
745 \end{enumerate}
746
747 When you single click a mixer window, it becomes selected and highlighted and all of the patchbay mixer toggles are updated to reflect the state of the viewer’s src tracks.  Tracks that will be src are shown as enabled.  If you change a toggle, the src tracks for the selected window will be modified.  This means you can associate or dis-associate any media track to any mixer window.
748
749 When you double click a mixer window, an overwrite paste is invoked.  The mixer viewer’s src tracks are overwritten to the dst tracks.  The timeline region for both the source and destination are the same for the overwrite paste function.  The selection region is used if it is active.  If the selection is empty, that is it is a hairline, the selection region is from the end of the destination playable edits to the selection cursor hairline.  The hairline must be past the end of the playable edits on the destination tracks.
750
751 The mixer viewer configuration is saved with the session data.  When a saved session is loaded in \textit{replace project} or \textit{replace project and concatenate tracks}, the mixer viewer will be reopened.
752
753 \subsubsection*{Using Proxy with \textit{Open Mixers}}%
754 \label{ssub:using_proxy_open_mixers}
755
756 The best way to use proxy with your multiple cameras is to follow the steps below:
757
758 \begin{enumerate}
759         \item Load media with insertion strategy of \textit{create resources only}.
760         \item Highlight the media in the Resources window and right click on this to choose \textit{open mixers}.
761         \item Use the \texttt{Settings $\rightarrow$ Proxy settings}\dots to bring up the proxy menu.
762         \item Choose the size and other options you want and click the checkmark OK. If you choose the option \textit{Beep when done} you will hear a short beep if all media is already proxied or a longer beep when all proxies have been created.
763         \item When your editing is complete, use \textit{Settings} pulldown and proxy to \textit{original size}.
764 \end{enumerate}
765 Instead of Open Mixers, you can Insert Mixers with new tracks at the timeline insertion point.
766
767 \subsubsection*{Options available in the \textit{Mixer Windows}}%
768 \label{ssub:options_available_with_mixers}
769
770 There are several options you will see in each Mixer window that help with using them. These
771 are shown in figure~\ref{fig:mixer-playable}. To use these, RMB in the desired mixer window,
772 and choose one of the options as described here.
773
774 \begin{figure}[htpb]
775         \centering
776         \includegraphics[width=1.0\linewidth]{mixer-playable.png}
777         \caption{A Mixer window showing available options with the white X designating no playing}
778         \label{fig:mixer-playable}
779 \end{figure}
780
781 \begin{enumerate}
782         \item Fullscreen / Windowed - will bring up a fullscreen display of that window or revert to the original size.
783         \item Resize Window - allows for resizing the window to a choice of different sizes.
784         \item Tile Mixers - makes it easy to get all of the mixers nicely tiled to a standard size.
785         This is also available in the \textit{Window} pulldown.
786         \item Playable - enabled by default so that you will see a checkmark next to it in the 
787         popup.  The benefit of making a mixer window not playable is to save cpu time. When a specific
788         mixer window is unchecked, so not Playable, a white cross appears in the upper left hand corner
789         of the mixer.  To switch back to playing again, RMB and choose Playable and this will turn
790         playing back on. The program automatically updates the mixer image when the timeline cursor
791         stops or when it is moved to a different spot even when play is disabled. You can see the
792         white cross designating not playable in figure~\ref{fig:mixer-playable}. Statistics that show
793         the savings are as follows on a 16 cpu laptop:
794         \begin{verbatim}
795         5 Mixers all playing -- cpu usage = 1275
796         1 only playing       -- cpu usage =  405
797         2 only playing       -- cpu usage =  800
798         \end{verbatim}
799 \end{enumerate}
800
801 \subsubsection*{Mixers pulldown}%
802 \label{ssub:mixers_pulldown}
803
804 From Program windows menu we can access the \texttt{windows $\rightarrow$ mixers...} there are several entries available (see figure~\ref{fig:mixers-pulldown}):
805
806 \begin{figure}[htpb]
807         \centering
808         \includegraphics[width=0.5\linewidth]{mixers-pulldown.png}
809         \caption{Mixers...  pulldown}
810         \label{fig:mixers-pulldown}
811 \end{figure}
812
813 \begin{description}
814         \item[Mixer Viewer:] (Shift-M) opens a new empty \textit{Mixer 1} window, which will then be associated with a track. We can open as many Mixers as we like.
815         \item[Drag Tile mixers:] (Alt-t) the default size of a mixer window is related to the std size of the \textit{Viewer} window. If we want to modify it at our convenience, we can build a window of the desired size with the \textit{Drag Tile mixers} function and then automatically order our mixers within it with the right click of the mouse.
816         \item[Align mixers:] see \nameref{sub:audio_video_sync_waveform}
817         \item[Mix masters:] this feature makes it very easy to get into the multi-camera mixer mode after tracks have already been set up and edited. Before this addition, you could only \textit{Open Mixers} from original media assets in the \textit{Resources} window.
818         \item[Entries:] If the mixers of several sources have been opened, the entries of each assets will appear, useful for recalling a specific mixer window.
819 \end{description}
820
821 \subsection{Recover Mixer Windows}%
822 \label{sub:recover_mixer_windows}
823
824 It is a hazard that you might accidentally \textit{undo} (\texttt{z or Ctrl-z}) too far and lose your mixer windows.  Here are the steps to recover.  It is recommended that you make a backup of your project before performing the recovery steps just in case there are other problems.
825
826 In the patchbay box to the left of the main timeline, there is a right pointing arrow on the right side.  This is called the \textit{Expander} (figure~\ref{fig:mixer-patchbay01}).  When you click on each expander, another line appears below that expander arrow and the timeline track height is slightly increased.  If you Shift-click on a single expander, the patchbay will expand for all of the tracks.
827
828 \begin{figure}[htpb]
829         \centering
830         \includegraphics[width=0.35\linewidth]{mixer-patchbay01.png}
831         \caption{Mixer  patchbay}
832         \label{fig:mixer-patchbay01}
833 \end{figure}
834
835 \begin{enumerate}
836         \item Expand all of the patchbay lines, either one by one, or Shift-click on one to do them all. This is so you can see the \textit{mixer} right pointing arrow on the second expanded line.    
837         \item Use the \textit{Window} pulldown and choose \textit{Mixer Viewer} to bring up a new mixer window.  Now you will be making an association between the mixer viewer and the track’s video.
838         \item Click on the new mixer window to make sure it is highlighted with a white border. This designates it as the \textit{in use} mixer viewer.
839         \item Set your play to the beginning of the video using the \textit{Home} key or \textit{Home} transport button.
840         \item In the patchbay for a video track click on the \textit{mixer} arrow on the expanded $2^{nd}$ line which is a right facing arrow.  Now the arrow will point up.  If there are audio tracks with that video, click on each of its audio tracks \textit{mixer} arrow until they point up also.
841         \item Next move your insertion pointer on the timeline where there is video.  Some of the time this just helps so that the new mixer viewer window gets redrawn and you can see that the images appear; but the image may not appear until the program does a redraw later.  Now the mixer viewer should be
842         correctly associated.  Note if you have large video, give it some time to update.  You may have to click on the mixer viewer window if the image does not show.  You can always start over with that mixer if you encountered any problems.
843         \item Click the arrows that are pointing up in that video and its audio so they go back to pointing right. That mixer viewer is complete so you need to do this to make sure the \textit{mixer} arrows are off.
844 \end{enumerate}
845
846 Repeat steps 2 through 7 for each of the mixer viewers you need going down the patchbay starting on step 2 first with Mixer 1, then 2 to 7 steps for Mixer 2, then again run 2 to 7 for Mixer 3 and so on.
847
848 Sometimes the association does not stick initially.  If not, highlight the mixer viewer with the problem, change the mixer arrows to point up, and reassociate.
849
850 \section{Audio/Video sync via Waveforms/Timecodes}%
851 \label{sec:audio_video_sync}
852
853 \subsection{Audio/Video sync via Waveform}%
854 \label{sub:audio_video_sync_waveform}
855
856 Multi-camera footage of a single event can have various shots starting and ending at different times. So when the footage start times are different, you can use the mixer audio to synchronize the clips on the timeline. The program algorithm attempts to find and align automatically the waveforms of the media.
857
858 Synchronizing multiple camera videos based on audio tracks can be done with \CGG{} easily enough with the \texttt{Window $\rightarrow$ Mixers$\dots$ $\rightarrow$  Align mixers} option.  Align mixers brings up a window displaying your mixers, the currently selected Master Track, and a list of all of the Audio Tracks (figure~\ref{fig:mixer-align01}).  There is a limit of 32 audio tracks per each mixer (that should be enough!)
859
860 \begin{figure}[htpb]
861         \centering
862         \includegraphics[width=0.9\linewidth]{mixer-align01.png}
863         \caption{Align Mixers window}
864         \label{fig:mixer-align01}
865 \end{figure}
866
867 Two different methods of aligning the audio for mixers are available. They are most easily referred to by the button that is pressed -- \textit{Match} and \textit{Match All}. There are also 2 methods of activating the alignment -- \textit{Apply} and \textit{Move}.  
868
869 \textit{Match} consists usually of the next set of steps to take advantage of this feature:
870
871 \begin{enumerate}
872         \item Load your camera media with insertion strategy of \textit{resources only}
873         \item Highlight in the Resources window, all of the media you want to mix.
874         \item Right mouse button on one of the media and click on Open Mixers; all mixer windows come up.
875         \item To arm the created mixer tracks and related audio tracks. They are automatically placed on the timeline disarmed. This is right for multi-cam but not for audio sync.
876         \item Provide a small target audio pattern on the Master Track for syncing by marking with the In/Out points ([ and ]). NOTE: When choosing between the audio tracks to align the one that will have to work as Master, we must rigorously use the one with the right-most synchronization peak. This is because the Master track will be started at the beginning of the timeline. If during alignment the other tracks should move further to the left than the Master, they will be truncated at 00:00:00:000, finding no more space available, and will be shortened with loss of footage for the next multi-cam
877         \item Make a selection on the timeline in which to look for the pattern. Left mouse click, then drag select and highlight a search time domain. 
878         \item Use the \texttt{Window $\rightarrow$ Mixers$\dots$ $\rightarrow$  Align mixers} to bring up its dialog window.
879         \item Highlight in the first listbox, the Mixer number you want to align. Click on \textit{Match}. This will take a few seconds so watch the rendering time percentage on the lower right hand side zoom panel. The buttons will be ghosted out until finished. Now note the changed values in the Audio Tracks listbox.
880         \item If you are satisfied with the calculated Nudge values -- that is they are very close to $1.0$ -- in the Audio Tracks listbox and the audio track selected as the Master Track in the Master Track listbox, hit the \textit{Apply} button.
881         \item If you plan on performing more alignment tasks, click on Checkpoint so you can go back to a previous step in case you make a mistake.
882         \item Last, click on the OK green checkmark or to cancel click on the red X.  Or just close the gui.
883         \item To disarm the mixer tracks and related audio tracks for the next multi-cam operations.
884 \end{enumerate}
885
886 \paragraph{Reset} is used to start over with the current session data, not an undo.  This means you can use the match repeatedly to refine alignments.  All of the Audio Tracks listbox values will be reset.
887
888 \paragraph{Checkpoint} provides a method to create checkpoints that save the current state.  This is especially helpful while learning or doing more complicated operations where you might make a mistake or do not like the results and need to get back to a previous state.
889
890 \paragraph{Undo} is used to put the media back to a previous state on the timeline.  If you choose \textit{start over} the session will reload with the original, before any changes were applied.  You can also go back to any of your previous checkpoints that you created earlier which are listed there, such as \textit{chkpt 1}.
891
892 \paragraph{Match All}is used when you have several mixers, instead of only picking 1 to match, it picks the best match for EACH of the mixer tracks based on a single master track. So when you hit Apply, each track might move differently. You do not set In/Out points but you have to make a selection within which to match.
893
894 \paragraph{Apply} button will apply the nudges that were generated during the Match or Match All execution (figure~\ref{fig:mixer-align02}).
895
896 \begin{figure}[htpb]
897         \centering
898         \includegraphics[width=0.9\linewidth]{mixer-align02.png}
899         \caption{Aligned mixer window after "Match". Note the Nudge amounts above.}
900         \label{fig:mixer-align02}
901 \end{figure}
902
903 \paragraph{Move} is very handy when you are using mixers, if you have an edit somewhere that you need to fix specifically without moving any of the other track pieces. In this case you have to select a section (like you do a group, but do not make a group), generate a match, and then you can just \textit{Move} that set only -- everything else stays where it is at its current location (figure~\ref{fig:mixer-align03}).
904
905 \begin{figure}[htpb]
906         \centering
907         \includegraphics[width=1.0\linewidth]{mixer-align03.png}
908         \caption{Match setup for aligning by audio.  Note that [ ] are set over a sample waveform highlighted selection that includes that.}
909         \label{fig:mixer-align03}
910 \end{figure}
911
912 More detailed information follows about how this all works and the information in the dialog window.  It is important to know that the result of the calculation is \textit{best match} but you can still override the selections if you decide there is a better one.  The dialog window is split into 3 sections:
913
914 \begin{enumerate}
915         \item \textit{Mixers} lists the mixers that are active by highlighting them all initially. You can decide that you do
916         not want 1 or more mixers to be used in the correlation calculation by un-highlighting the one(s) that should not be used. In some cases you have to have at least 2 in order to align audio.
917         \item \textit{Master Track} lists each of the audio tracks currently loaded for all of the mixers. You can decide to highlight a different audio track to be used as the master for correlation, but only 1 can be used. Remember to use the track with the right-most synchronization peak as the Master.
918         \item \textit{Audio Tracks} lists each of the mixer audio tracks.  Again, you can highlight a different set of which
919         mixer audio tracks that you want to use for the waveform correlation.  Any audio tracks that are not
920         highlighted, that is \textit{turned off}, will not be considered in the correlation calculation.
921 \end{enumerate}
922
923 The corresponding input position is determined by track input correlation.
924
925 The letter "R" in the Audio Tracks listbox represents the correlation value.  $R=1.0$ designates that if both the pattern and the matching section were in the highlighted area, they are completely correlated -- this is a good self-test to check.
926 $Nudge=0.0$ means just that.
927
928 The header \textit{pos} stands for the timeline position. When the \textit{Apply} button is pressed, only the Mixers listbox is relevant at that time.
929
930 The Mixer with the master track generally does not move, everything else will be lined up (figure~\ref{fig:mixer-align04}).
931
932 \begin{figure}[htpb]
933         \centering
934         \includegraphics[width=1.0\linewidth]{mixer-align04.png}
935         \caption{An audio Match is complete. Note the waveform is aligned.}
936         \label{fig:mixer-align04}
937 \end{figure}
938
939 \textit{Match All} option basically consists of the following steps:
940
941 \begin{enumerate}
942         \item Highlight the Mixer to use in the Mixer listbox.
943         \item Highlight the Master Track you want to use in the Master Track listbox.
944         \item On the timeline, mark your selection on the Master Track.
945         \item Click on the \textit{Match All} button.
946         \item Note the nudge values to see if they make sense, and if so, press \textit{Apply}.
947 \end{enumerate}
948
949 \textit{Match} option basic steps (just for comparison with Match All):
950
951 \begin{enumerate}
952         \item Set the In/Out points [ ] of the target.
953         \item On the timeline, mark your selection.
954         \item Click on the \texttt{Match} button.
955         \item Note the nudge values to see if they make sense, then press \textit{Apply} (or \textit{Move} when doing a group).
956 \end{enumerate}
957
958 \subsection{Align Timecodes}%
959 \label{sub:align_timecodes}
960
961 Align Timecodes is especially useful in the case where you create video with multiple cameras capable of recording a timecode in the metadata of each file.  Let’s say we have recorded three videos at the same time at a concert with each camera set up at unique positions and at different angles.   All of the cameras start recording at various times but were synchronized with the same master clock (\textit{Timecode Sync Generator} or \textit{Jam Sync timecode}) so that the recordings are timestamped with that synchronized time.  For example, the 3 cameras have embedded metadata as follows: \quad \textbf{camera 1} = 00:00:00:01 \quad \textbf{camera 2} = 00:00:10:07 \quad \textbf{camera 3} = 00:00:17:22
962
963 \begin{figure}[ht]
964         \centering
965         \includegraphics[width=1.0\linewidth]{timecode-01.png}
966         \caption{Before sync}
967         \label{fig:timecode-01}
968 \end{figure}
969
970 Timecode synchronization is performed by the program when you choose the option \textit{Align Timecodes} and works in 2 steps. The first automatic step is to locate the earliest timecode and the second step is to align the edits on the armed tracks using that time on the timeline. 
971
972 When you load in the three files to different tracks, they'll be placed on a timeline that starts from $00:00:00:00$ as usual. But, by middle mouse clicking (MMB) on any of the video tracks, you can view the timecode embedded at that point in that file.
973
974 To make it easy to align the videos onto the timeline manually, set the \textit{origin point}, that is the leftmost time index, of the timebar to the timecode of the earliest video.  For the 3 aforementioned cameras this would be camera 1 with a timeecode of $00:00:00:01$.  By using the \textit{clapboard} button on the main timeline, you can set $00:00:00:01$ as the start timecode. Then positioning the camera 1 video at the start of the timeline will line its frames up with the times on the timebar.
975
976 \begin{figure}[ht]
977         \centering
978         \includegraphics[width=1.0\linewidth]{timecode-02.png}
979         \caption{Clapperboard button}
980         \label{fig:timecode-02}
981 \end{figure}
982
983 Similarly, using the middle mouse button to view the other 2 camera’s timecodes, you can position them  so their timecodes line up and now all three tracks will be in sync.  You can do this manually or simply do it automatically with the option under: \texttt{Tracks  $\rightarrow$  Align Timecodes}. See figure~\ref{fig:timecode-03}
984
985 \begin{figure}[ht]
986         \centering
987         \includegraphics[width=1.0\linewidth]{timecode-03.png}
988         \caption{After sync}
989         \label{fig:timecode-03}
990 \end{figure}
991
992 Timecode synchronization in \CGG{} is based on the inclusion of an actual \textit{timecode} saved in
993 the media as can be seen using the \texttt{ffprobe} or \texttt{mediainfo} command line. Examples are shown here:
994
995 \begin{lstlisting}[style=sh]
996 # ffprobe tut1.mov
997 Metadata:
998 handler_name:   VideoHandler
999 timecode:               00:00:20:01
1000
1001 # mediainfo mtb.mp4
1002 Time code of first frame:       11:05:49:41
1003 Time code, striped:             Yes
1004 Title:                          GoPro AVC
1005 \end{lstlisting}
1006
1007 Many newer cameras and media in a MOV container have valid timecodes often with SMPTE
1008 compliant start Timecode in Quicktime format, whereas others do not. Most low end cameras do not.
1009 When no timecode is present, various clock time values may be used to synchronize instead.
1010
1011 There are various types of timecodes and they are written in metadata in various ways. Because it is not clear which timecode in the file is the one to use or there is none, the precedence as described next is followed. The contexts, packets, streams, and data refer to the corresponding ffmpeg data or metadata objects:
1012
1013 \begin{enumerate}
1014         \item if the format context has a timecode use: \texttt{fmt\_ctx $\rightarrow$ timecode - 0}
1015         \item if the layer/channel has a timecode use: \texttt{st $\rightarrow$ timecode - (start\_time -nudge)}
1016         \item find the first program stream with video stream, and if the video stream has a timecode use:
1017         \texttt{st $\rightarrow$ timecode - (start\_time-nudge)}
1018         \item find timecode in any stream use: \texttt{st $\rightarrow$ timecode}
1019         \item read 100 packets, save \texttt{ofs=pkt.pts*st $\rightarrow$ time\_base - st $\rightarrow$ nudge}:
1020         \begin{itemize}
1021                 \item decode frame for video stream of the first program
1022                 \item if \texttt{frame $\rightarrow$ timecode} has a timecode use:\texttt{ frame $\rightarrow$ timecode - ofs}
1023                 \item if side\_data has gop (group of pictures) timecode use: \texttt{gop $\rightarrow$ timecode - ofs}
1024                 \item if side\_data has smpte timecode use: \texttt{smpte $\rightarrow$ timecode - ofs}
1025         \end{itemize}
1026         \item if the \texttt{filename/url} scans \texttt{*date\_time.ext} use: \texttt{date\_time} (yr, month, day, hr, min, sec, nanosecond)
1027         \item if stat (display file status) works on the \texttt{filename/url} use: \texttt{mtime} (modification time)
1028         \item finally, if none of the above are usable, then return \texttt{failure}
1029 \end{enumerate}
1030
1031 Operation of Align Timecodes includes the following options to help in your setup and review (figure~\ref{fig:timecode-04}):
1032
1033 \begin{figure}[ht]
1034         \centering
1035         \includegraphics[width=1.0\linewidth]{timecode-04.png}
1036         \caption{Timecode via MMB on track and via Resources windows/Info}
1037         \label{fig:timecode-04}
1038 \end{figure}
1039
1040 \begin{itemize}
1041         \item \textit{Align Timecodes} under the \textit{Tracks} pulldown
1042         \item \textit{Clapperboard} icon on the main timeline to set a timecode.
1043         \item Timecode option added to timebar choices (in timecode $hh:mm:ss:ff$) with use of the session frame
1044         rate as a time standard.
1045         \item Time Code Start in the Resources window on the bottom of \textit{Info} for the media if the timecode for that
1046         asset has been scanned and is known. You can scan the asset’s Timecode by using the middle mouse
1047         button on its track which then displays the timecode for that on the timebar.
1048 \end{itemize}
1049
1050 \paragraph*{Notes}
1051
1052 \begin{itemize}
1053         \item \textit{Align Timecodes} is a good first step to quickly sync media up either perfectly or roughly.
1054         \item Currently this is not known to function for syncing audio recorded on a separate audio device,
1055         because no test material was provided to ensure that this works.
1056         \item Disarmed tracks will not be affected by using \textit{Align Timecodes}.
1057         \item No edits or sections will get cut off on the left or elsewhere, unless the moved edits overlap.
1058         \item You can add a timecode to video using an \texttt{ffmpeg} command if you want to align a particular video
1059         which has no timecode to ones that do. For example:
1060 \end{itemize}
1061
1062 \begin{lstlisting}[style=sh]
1063 ffmpeg -i originalfile.mp4 -metadata timecode="14:36:08:29" -c copy newfile.mp4
1064
1065 # where "-i" is followed by the input filename
1066 # where "-metadata timecode" is followed by the timecode key
1067 # where "-c copy" just copies the video/audio to the following output filename
1068 \end{lstlisting}
1069