<div dir="ltr">Hi Developers,<div><br></div><div>Sorry for the Fri afternoon query, but I&#39;m getting an error never before seen on an addnode, and it recurs even on a -x retry.   Appreciate any workaround/recovery suggestions for the following:</div><div><br></div><div><p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b># sc an -x -a node002 w2c</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>StarCluster - (<a href="http://star.mit.edu/cluster">http://star.mit.edu/cluster</a>) (v. 0.95.6)</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>Software Tools for Academics and Researchers (STAR)</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>Please submit bug reports to <a href="mailto:starcluster@mit.edu">starcluster@mit.edu</a></b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208);min-height:16px"><b></b><br></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>&gt;&gt;&gt; Waiting for node(s) to come up... (updating every 30s)</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>&gt;&gt;&gt; Waiting for all nodes to be in a &#39;running&#39; state...</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>3/3 |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||| 100%  </b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>&gt;&gt;&gt; Waiting for SSH to come up on all nodes...</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>3/3 |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||| 100%  </b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>&gt;&gt;&gt; Waiting for cluster to come up took 0.206 mins</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>&gt;&gt;&gt; Running plugin starcluster.clustersetup.DefaultClusterSetup</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>&gt;&gt;&gt; Configuring hostnames...</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>1/1 |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||| 100%  </b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>&gt;&gt;&gt; Configuring /etc/hosts on each node</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>3/3 |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||| 100%  </b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>&gt;&gt;&gt; Configuring NFS exports path(s):</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>/home /jobs/ /usr/share/jobs/ /pipe/</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>&gt;&gt;&gt; Mounting all NFS export path(s) on 1 worker node(s)</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>1/1 |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||| 100%  </b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>&gt;&gt;&gt; Setting up NFS took 0.021 mins</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>1/1 |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||| 100%  </b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>&gt;&gt;&gt; Configuring scratch space for user(s): sgeadmin</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>1/1 |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||| 100%  </b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>&gt;&gt;&gt; Configuring passwordless ssh for root</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>&gt;&gt;&gt; Configuring passwordless ssh for sgeadmin</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>&gt;&gt;&gt; Running plugin swap_addnode_w2c.VISwapConfigurator</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>&gt;&gt;&gt; Configuring Swap on node002</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>&gt;&gt;&gt; Running plugin starcluster.plugins.users.CreateUsers</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>&gt;&gt;&gt; Creating 1 users on node002</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>&gt;&gt;&gt; Adding node002 to known_hosts for 1 users</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>!!! ERROR - Error occured while running plugin &#39;starcluster.plugins.users.CreateUsers&#39;:</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>!!! ERROR - Unhandled exception occured</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>Traceback (most recent call last):</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>  File &quot;/usr/lib/python2.6/site-packages/StarCluster-0.95.6-py2.6.egg/starcluster/cli.py&quot;, line 274, in main</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>    sc.execute(args)</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>  File &quot;/usr/lib/python2.6/site-packages/StarCluster-0.95.6-py2.6.egg/starcluster/commands/addnode.py&quot;, line 128, in execute</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>    no_create=self.opts.no_create)</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>  File &quot;/usr/lib/python2.6/site-packages/StarCluster-0.95.6-py2.6.egg/starcluster/cluster.py&quot;, line 189, in add_nodes</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>    no_create=no_create)</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>  File &quot;/usr/lib/python2.6/site-packages/StarCluster-0.95.6-py2.6.egg/starcluster/cluster.py&quot;, line 1042, in add_nodes</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>    self.run_plugins(method_name=&quot;on_add_node&quot;, node=node)</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>  File &quot;/usr/lib/python2.6/site-packages/StarCluster-0.95.6-py2.6.egg/starcluster/cluster.py&quot;, line 1690, in run_plugins</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>    self.run_plugin(plug, method_name=method_name, node=node)</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>  File &quot;/usr/lib/python2.6/site-packages/StarCluster-0.95.6-py2.6.egg/starcluster/cluster.py&quot;, line 1715, in run_plugin</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>    func(*args)</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>  File &quot;/usr/lib/python2.6/site-packages/StarCluster-0.95.6-py2.6.egg/starcluster/plugins/users.py&quot;, line 164, in on_add_node</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>    master.add_to_known_hosts(user, [node])</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>  File &quot;/usr/lib/python2.6/site-packages/StarCluster-0.95.6-py2.6.egg/starcluster/node.py&quot;, line 578, in add_to_known_hosts</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>    khostsf = self.ssh.remote_file(known_hosts_file, &#39;a&#39;)</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>  File &quot;/usr/lib/python2.6/site-packages/StarCluster-0.95.6-py2.6.egg/starcluster/sshutils.py&quot;, line 320, in remote_file</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>    rfile = self.sftp.open(file, mode)</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>  File &quot;/usr/lib/python2.6/site-packages/paramiko-1.15.1-py2.6.egg/paramiko/sftp_client.py&quot;, line 327, in open</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>    t, msg = self._request(CMD_OPEN, filename, imode, attrblock)</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>  File &quot;/usr/lib/python2.6/site-packages/paramiko-1.15.1-py2.6.egg/paramiko/sftp_client.py&quot;, line 729, in _request</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>    return self._read_response(num)</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>  File &quot;/usr/lib/python2.6/site-packages/paramiko-1.15.1-py2.6.egg/paramiko/sftp_client.py&quot;, line 776, in _read_response</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>    self._convert_status(msg)</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>  File &quot;/usr/lib/python2.6/site-packages/paramiko-1.15.1-py2.6.egg/paramiko/sftp_client.py&quot;, line 802, in _convert_status</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>    raise IOError(errno.ENOENT, text)</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>IOError: [Errno 2] No such file</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208);min-height:16px"><b></b><br></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>!!! ERROR - Oops! Looks like you&#39;ve found a bug in StarCluster</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>!!! ERROR - Crash report written to: /root/.starcluster/logs/crash-report-11317.txt</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>!!! ERROR - Please remove any sensitive data from the crash report</b></p>
<p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b>!!! ERROR - and submit it to <a href="mailto:starcluster@mit.edu">starcluster@mit.edu</a></b></p><p style="margin:0px;font-size:14px;font-family:Menlo;color:rgb(76,47,45);background-color:rgb(167,221,208)"><b><br></b></p><p style="margin:0px;font-size:14px;color:rgb(76,47,45);background-color:rgb(167,221,208)"><font face="arial, helvetica, sans-serif">There&#39;s not much more in the crash report, but I can send it, if it will help.  Thanks in advance.</font></p><p style="margin:0px;font-size:14px;color:rgb(76,47,45);background-color:rgb(167,221,208)"><font face="arial, helvetica, sans-serif"><br></font></p><p style="margin:0px;font-size:14px;color:rgb(76,47,45);background-color:rgb(167,221,208)"><font face="arial, helvetica, sans-serif">Best,</font></p><p style="margin:0px;font-size:14px;color:rgb(76,47,45);background-color:rgb(167,221,208)"><font face="arial, helvetica, sans-serif">Lyn</font></p></div></div>